Google maant zijn wetenschappers aan een ‘positieve toon’ aan te slaan in publicaties over onderzoek naar artificial intelligence (ai). Vooral studies over de ethische kanten van ai en ‘responsible ai’ liggen bij de tech-gigant onder een vergrootglas. Voor onderwerpen die in de ogen van Google gevoelig liggen, zijn de regels sinds deze zomer aangescherpt.
Het is het persbureau Reuters dat onthult dat Google haar ai-onderzoekers in ten minste drie gevallen al op de vingers heeft getikt. De betrokkenen werden met klem gevraagd deze technologie in een minder negatief daglicht te stellen.
Binnen Google bestaat onrust over de wijze waarop onderzoekers onder druk worden gezet hun conclusies positief bij te kleuren. Vooral de pr-afdeling, de juridische afdeling en beleidsmakers laten zich daarbij niet onbetuigd. Google heeft een ‘oekaze’ uitgevaardigd dat onderzoekers voor bepaalde publicaties eerst die drie afdelingen moeten raadplegen. Uit interne webpagina’s blijkt dat dit vooral geldt voor onderwerpen zoals gezichtsherkenning en sentimentanalyse. Ook over ai waarbij mensen worden ingedeeld op basis van ras, geslacht of politieke voorkeur, mag niet meer vrijelijk worden gepubliceerd.
Reuters sprak vier vooraanstaande Google-onderzoekers die vrezen dat hun werkgever is begonnen zich op een vervelende manier te bemoeien met studies die in het bedrijf gevoelig liggen. Daarbij wordt met name gedoeld op studies die een licht werpen op eventueel schadelijke effecten van technologie. Onderzoeker Margaret Mitchell, expert op gebied van natuurlijke taalverwerking en machine learning, neemt in dit verband zelfs het woord ‘censuur’ in de mond. ‘Dan hebben we een ernstig probleem’, zegt zij.
Haar kritische uitlatingen komen in een periode dat de spanning oploopt tussen Google en een deel van haar onderzoekers. Vooral het abrupte vertrek van topwetenschapper Timnit Gebru, die onderzoek deed naar ethisch verantwoord gebruik van ai, heeft tot veel beroering geleid. Google zou ethica Gebru onlangs na een knallende ruzie de deur hebben gewezen. Volgens Gebru werd ze op staande voet ontslagen toen ze zich niet neerlegde bij een verbod bepaalde onderzoeksresultaten te bespreken op een wetenschappelijke conferentie. Google zegt dat ze zelf ontslag heeft genomen.
Gebru vroeg zich na haar vertrek bij Google in een gesprek met Venturebeat af wat ai-onderzoek nu eigenlijk voorstelt als resultaten gekleurd naar buiten worden gebracht. ‘Alle wetenschappelijke conferenties worden zwaar gesubsidieerd door de industrie’, zei ze. Gebru maakt zich grote zorgen over de invloed van de industrie op wetenschappelijk onderzoek naar kunstmatige intelligentie. Jeff Dean, senior vice president bij Google, zei dat Gebru in haar publicaties heeft verzuimd erbij te zetten dat Google wel degelijk probeert de potentiële gevaren van ai te mitigeren. Dean zei ook dat teveel controle op het werk van wetenschappelijke publicisten hinderlijk kan uitpakken.
Vrijheid, blijheid?
Google claimt op zijn website dat zijn onderzoekers ‘aanzienlijke vrijheid’ genieten. Maar Reuters heeft interne correspondentie ingezien waaruit het tegendeel blijkt. Een Google-manager die een review deed van een studie naar ai-technologie voor het aanbevelen van content, bijvoorbeeld op YouTube, gebood de auteurs een meer positieve toon te laten klinken.
In de eerste versie van de publicatie had de onderzoeker zijn bezorgdheid uitgesproken over deze technologie. Er werd gewezen op het gevaar van desinformatie, discriminatie of andere onwenselijke resultaten. Ook stond vermeld dat de content onvoldoende divers kon zijn en politieke polarisatie in de hand kon werken. In de laatste versie die naar buiten kwam, stond opeens dat de ai-systemen ‘accurate informatie, ‘eerlijkheid’ en ‘diversiteit van content’ bevorderen. De namen van de Google-onderzoekers en alle referenties naar Google-producten waren uit de publicatie geschrapt. Reuters haalt meer van dit soort voorbeelden aan.
