Techwereld toe aan ethische inhaalbeweging
Opiniebijdrage van Jochanan Eynikel (Tijd.be, 28 maart 2019)
‘Bestond dat dan nog niet?’, was mijn eerste gedachte toen ik las dat Google een extern adviesorgaan opricht dat het bedrijf moet bijstaan voor de ethische aspecten van artificiële intelligentie. Dat het er nu pas komt mag verbazen.
Google werd als bedrijf officieel geregistreerd in 1998. Tien jaar later behoorde het al tot de meest waardevolle bedrijven wereldwijd. Al zeker sinds 2010 is Google een voorloper in AI-toepassingen. Toen gaf Google alle automerken het nakijken door als eerste commerciële speler aan de ontwikkeling van een zelfrijdende wagen te werken.
Vandaag is Google niet meer weg te denken uit ons leven. De algoritmes van hun producten sturen in grote mate ons gedrag. Zoals ons surfgedrag (Google Search), ons kijkgedrag (YouTube), ons rijgedrag (Google Maps en Waze) of ons koopgedrag (GoogleAdds). Met hun slimme luidspreker vormt het bedrijf ook steeds meer de gebruiksinterface van ons huishouden. Met miljoenen gebruikers en een dergelijke schaal en invloed, komt een even grote verantwoordelijkheid. En dan horen we dat het bedrijf pas sinds gisteren een adviesorgaan rond ethische kwesties oprichtte. Beste Google, waarom duurde dat zo lang?
Toegegeven, digitale ethiek staat wel al langer op de radar van de techgigant dan vandaag. Vorig jaar publiceerde Google nog een lijst van zeven principes die als morele leidraad voor zijn AI-producten moeten dienen. Weliswaar na intern protest van medewerkers tegen de mogelijke betrokkenheid van het bedrijf bij militaire technologie. Intern heeft het bedrijf al langer een groep specialisten in dienst die zich over de ethische en wettelijke kwesties van zijn innovaties buigen.
“Externe experts kunnen veel onafhankelijker spreken dan interne medewerkers. Kritisch denken is veel moeilijker als het voorwerp van je kritiek ook je loon uitbetaalt.”
Maar voor een externe adviesraad voor ethisch verantwoorde AI was het wachten tot gisteren. Zo’n externe raad is nochtans broodnodig voor morele besluitvorming. Ten eerste kunnen deze experts veel onafhankelijker spreken dan interne medewerkers. Kritisch denken is veel moeilijker als het voorwerp van je kritiek ook je loon uitbetaalt. Ten tweede biedt een goed samengesteld extern adviesorgaan met mensen met diverse expertises en achtergronden een veel bredere kijk op de dingen. Dat is belangrijk, want innovaties weerspiegelen het wereld- en mensbeeld van wie ze ontwerpt.
Levensbelangrijk zelfs, zo leerde een onderzoek van het MIT naar de software voor gezichtsherkenning van onder meer Microsoft en IBM. De systemen waren veel beter in het identificeren van mannen met een witte huid dan vrouwen met een donkere huid. Dat kan discriminerend zijn, maar ook dodelijk. Uit een recentere studie van het Georgia Institute of Technology zou blijken dat dergelijke systemen bij autonome wagens overstekende voetgangers met een donkere huidskleur moeilijker herkennen dan mensen met een bleke tint.
Het toont hoe belangrijk de data zijn waarmee AI-systemen gevoed worden en dat die meer divers moeten zijn dan het soms selecte clubje dat onze technologie ontwerpt. Het overwegend mannelijke, witte, jonge en hoogopgeleide Silicon Valley is niet altijd een toonbeeld van die diversiteit. Een diverse onafhankelijke adviesraad kan die ‘bias’ of blinde vlekken in die ontwikkelingen helpen te herstellen.
“Het blijft verbazen hoe proactief techbedrijven zijn in technologische ontwikkeling en hoe reactief ze zijn als het aankomt op de ethiek van hun techniek.”
Ach, Google is misschien de kwaadste niet en ontwikkelt zonder meer ook fantastische producten. Maar het blijft verbazen hoe proactief techbedrijven zijn in technologische ontwikkeling en hoe reactief ze zijn als het aankomt op de ethiek van hun techniek. Google staat daar niet alleen in. Vandaag pleit Facebook voor privacy, meer gebruikerscontrole en een focus op interactie in kleine groepen waar men elkaar vertrouwt. Wat een verschil met 2010, toen Zuckerberg privacy nog afdeed als iets van ‘de oude tijden’. De reden van de koerswijziging is samen te vatten in twee woorden: Cambridge Analytica. Het schandaal waarbij gegevens van Facebookgebruikers voor politieke doeleinden werden misbruikt. Een koerswijziging onder economische en publieke druk dus.
Ethiek gaat niet zozeer over het zich aanpassen aan maatschappelijke druk. Het gaat vooral over proactief te werken vanuit wat voor jou van waarde is en daarnaar te handelen. Het gaat over trouw blijven aan die waarden ook wanneer ze niet direct opleveren. Het gaat over mens, maatschappij en moraal een centrale plaats te geven in een waardengedreven innovatieproces. Dan is ethiek geen excuustruus of marketingverhaal, maar een strategisch onderdeel van goede bedrijfsvoering. Een die vertrouwen en respect verdient.
“Ethiek moet geen excuustruus of marketingverhaal zijn, maar een strategisch onderdeel van goede bedrijfsvoering.
Het oprichten van een extern ethisch comité is daarin een goede zaak omdat een bedrijf zo zichzelf een vorm van externe controle oplegt. Het is een stap naar zelfregulering. Maar het mag allemaal wat sneller, spontaner en proactiever. De technologische vooruitstrevendheid van Silicon Valley vraagt ook morele vooruitziendheid.