Wetenschapper Sennay Ghebreab wil een zogenoemd Civic AI Lab oprichten. Die onderzoeksgroep is een antwoord op bedrijven en organisaties die met hun artificiële intelligentie (ai)-toepassingen en algoritmes vaak onvoldoende rekening houden met fundamentele burgerrechten, stelt hij. Volgens de onderzoeker ligt in de huidige snelheid waarin ai zich ontwikkelt discriminatie op de loer.
In een interview met Computable vertelt Ghebreab hoe artificiële intelligentie (ai) anders moet worden ontwikkeld om te voorkomen dat algoritmen discrimineren.
Hij gaat in op de opkomst van ai waarbij steeds meer systemen en apparaten gebruik maken van algoritmes die min of meer zelfstandig beslissingen nemen. ‘Bedrijven en overheden nemen vaker beslissingen op basis van die rekenmodellen die ook steeds complexer worden’, stelt hij.
Door vanaf het begin rekening te houden met burgerrechten, zeer kritisch te zijn op de labels die aan data worden geplakt en door de inzet van inclusieve ontwikkelteams kan voorkomen worden dat ai-toepassingen ontstaan die bepaalde groepen uitsluiten.
Ghebreab: ‘Niet alleen maar programmeurs en ict’ers zullen deze algoritmes oppakken, aanpassen en inzetten, maar ook leken en digibeten. Aan de ene kant is dit goed, aan de andere kant brengt het ook risico’s met zich mee van oneigenlijk en oneerlijk gebruik van algoritmes. Een vraag die bijvoorbeeld gesteld moet worden is wat de consequentie voor wie is van een bepaalde methode op een bepaalde dataset. Het kritisch algoritmische denken ontbreekt vaak.’
AI moet anders
Lees hier het hele interview met Sennay Ghebreab.
Ik zal er maar direct met gestrekt been in gaan, Sennay Ghebreab is een neuro-informaticus – een nietszeggende term – die een expertise heeft op het kruispunt van sociale inclusie en technologische innovatie. Voor de boeren uit de provincie, Sennay Ghebreab wil een exclusiviteit in de algoritmen inbouwen om de inclusiviteit te bevorderen wat gewoon discriminatie is. Een simpele onderzoek naar de belangenverstrengeling van UvA-onderzoeker maakt namelijk duidelijk dat de vooringenomenheid in onderzoeken er dubbel en dik bovenop ligt als ik kijk naar de nevenfuncties van hoofd sociale wetenschappen.