Interview met Maarten Sukel, schrijver van het boek ‘De AI-revolutie’
Ai-oplossingen met veel gevolgen voor mensen en maatschappij vragen om meer regulering. De maker van een algoritme dat invloed heeft op de levens van miljoenen mensen hoeft nu nog geen eed af te leggen, maar dat wordt in de toekomst mogelijk anders, zegt ai-expert en datawetenschapper Maarten Sukel.
Op 24 januari verscheen ‘De AI-revolutie’. Daarin beschrijft Sukel de opkomst van ai. Die toepassingen krijgen een steeds grotere invloed op de maatschappij en zullen in de toekomst een nog grotere impact hebben op de levens van mensen, stelt hij. In een drukke week waarin Sukel het boek presenteerde voor ruim driehonderd man publiek in Pakhuis de Zwijger in Amsterdam en twee keer voor de microfoon van Radio1 verscheen, sprak hij ook met Computable.
Voor wie is het boek geschreven?
‘De doelgroep is redelijk breed. Ik heb het zo opgeschreven dat het voor iedereen die interesse heeft in ai of er meer over wil weten, interessant is. Ik ga zowel in op de technische kant van ai als de invloed van ai op de maatschappij en de gevolgen voor bepaalde sectoren en voor burgers. Tijdens het schrijven nam ik iemand voor ogen die over acht jaar misschien wel minister van ai of digitale zaken is en die de basiskennis op orde moet hebben.’
Ai wordt door veel mensen als een verzamelterm gebruikt voor verschillende toepassingen. Is dat niet verwarrend?
‘Ik gebruik in het boek ook mijn eigen definities van begrippen als ai, algoritme en deep learning. Zo is voor de lezer in ieder geval duidelijk wat ik ermee bedoel. Vaak roepen bedrijven of organisaties dat ze ‘iets met ai’ doen zonder specifiek te benoemen waarvoor ze het inzetten. Om duidelijker te krijgen wat ze bedoelen, helpt het om de toepassing te benoemen: bijvoorbeeld een algoritme voor het meten van afstanden, een taalmodel, aanbevelingsalgoritme of beeldherkenning.’
Wat zijn de grootste misvattingen over ai onder ict’ers?
‘Dat ai niet te beheersen is. Vaak wordt het gezien als een black box. Maar er zijn ook manieren om ai onder controle te houden. Als je een degelijke implementatie hebt dan is controle mogelijk. Privacy, beveiliging en de gevolgen voor de maatschappij controleren zijn haalbaar als we zorgen dat het model ofwel het algoritme controleerbaar is en het systeem eromheen op de juiste manier is ontworpen: Zaken zoals voortdurende observatie, volledige logging en degelijke software zijn essentieel.’
Zijn er nog meer hardnekkige misverstanden over ai die je met het boek wil ontkrachten?
‘Ik hoor regelmatig: ‘het algoritme discrimineert’ of dat het niet te controleren of beheersen is. Het gebeurt dat het algoritme getraind is op een niet-representatieve set data en dan is de uitkomst ook niet representatief. Het ligt meestal niet aan het algoritme, maar aan de gebruikte data. Als algoritmes niet te controleren of beheersen zijn, dan wijst dat bovendien vaak op fouten bij het ontwikkelen ervan.’
Welke risico’s zie je in de huidige vaart waarmee ai zich ontwikkelt?
‘Ai biedt grote kansen, maar er zijn ook redenen zijn om ons zorgen te maken. Ik vind het noodzakelijk dat het gebruik van ai door Big Tech en de overheid kritisch geëvalueerd wordt en het onderwerp structureel onderdeel is van het maatschappelijk debat. Als er niet wordt ingegrepen, riskeren we dat de immense macht en invloed van ai-systemen geconcentreerd blijft bij enkele grote spelers. Dat zal leiden tot een onevenredige verdeling van macht binnen de samenleving. Het is essentieel dat we ervoor zorgen dat de ai-revolutie ten goede komt aan de gehele maatschappij, en niet slechts aan een selecte groep.’
Welke stappen moeten er worden gezet om tot verantwoorde ontwikkeling van ai te komen?
‘Wat mij opvalt, is dat jaarcijfers gecontroleerd worden door een beëdigd accountant, maar een algoritme dat voor miljoenen mensen een keuze maakt, mag eigenlijk iedereen zo maken. Zonder specifieke bevoegdheid. Misschien gaat dat de komende decennia veranderen en komen er ook toetsing, scholing en voorwaarden voor het uitoefenen van dat vak.’
Hoe kijk je naar de ai-ontwikkelingen binnen Nederland?
‘Nederland heeft goede universiteiten op het gebied van ai die al jaren goed werk leveren. Denk aan TU Delft, Universiteit van Amsterdam en, Rijksuniversiteit Groningen. Onlangs werd de kabinetsvisie op generatieve ai bekendgemaakt waar 13,5 miljoen euro in een Nederlandstalig GPT model wordt gestopt, en wordt er 204,5 miljoen euro beschikbaar gesteld voor ai-ontwikkelingen vanuit het groeifonds. Vergeleken met initiatieven in andere landen is dat een druppel op de gloeiende plaat. Het bedrag is niet vergelijkbaar met de miljarden investeringen van Microsoft in een bedrijf als Open AI of de miljarden die een land als Frankrijk in 2018 al in ai investeerde-. We moeten investeren en samenwerken met de academische top die we al hebben en vanuit daar de controle terug pakken.’
Wat moet daarvoor gebeuren?
‘Om ai serieus te nemen zou de politiek in moeten zetten op een ministerie van digitale zaken en ai. Nu zijn dat zaken die andere ministeries er een beetje bij doen. Maar ai heeft impact op grote delen van de maatschappij en verdient meer aandacht. Recent becijferde het IMF dat zo’n zestig procent van de banen gaat veranderen door ai. Ook hebben steeds meer mensen een algoritme als manager. Zie flitsbezorgers of Uberchauffeurs. Om dat soort ontwikkelingen serieus te nemen en te reguleren, zijn meer structurele en grotere investeringen en meer daadkracht nodig.’
Kan het menselijk brein alle informatie die op ons afkomt eigenlijk nog wel aan?
‘Het menselijk brein kan de snelheid van de technologische vooruitgang door ai simpelweg niet bijhouden. Door alle prikkels vermindert de concentratie en bovendien krijgen extreme meningen steeds vaker een podium, waardoor ze steeds gebruikelijker lijken. De komende decennia zal duidelijk worden hoezeer de voortdurende evolutie van technologie en hoe die onze aandacht vasthoudt, een belasting vormt voor onze geestelijke gezondheid. Het is te hopen dat de overheid tijdig ingrijpt. De interactie tussen mens en machine zal op een manier moeten plaatsvinden die het brein van mensen niet overrompelt. Het is daarom noodzakelijk dat wordt gekeken naar de effecten van constante blootstelling aan data en digitalisering.’
Als wetenschapper kijk jij vaak naar ai-toepassingen die een maatschappelijk belang dienen. Zou je voor Google-moederbedrijf Alphabet, twitterplaftorm X of socialemedia-aanbieder Meta kunnen werken?
‘Ik vind het belangrijk dat het bijdraagt aan de maatschappij. In mijn huidige baan als machine learning-engineer bij online-supermarkt Picnic en mijn werk als onderzoeker, komt het beste van beide werelden samen. Ik werk aan het tegengaan van voedselverspilling. Bij die grote techbedrijven kun je ook vaak mooie onderzoeken doen en technisch helemaal los gaan, maar hun concurrentiestrijd, zoals die tussen zoekmachinegiganten, trekt me dan weer minder. Ik wil ai vooral maatschappelijk relevant inzetten.’
Proefschrift en Picnic
Maarten Sukel (Voorburg, 1993) schrijft zijn proefschrift over kunstmatige intelligentie aan de Universiteit van Amsterdam. Dat gaat over multi-modal machine learning, waarbij verschillende soorten data zoals beeld en tekst effectief aan algoritmes worden geleerd. Hij werkt daarnaast in voltijd als machine learning-engineer bij Picnic. Daarvoor was hij ai-lead en ai-specialist bij de gemeente Amsterdam waar hij betrokken was bij ai en beeldherkenning en de inzet van ai om de coronaverspreiding binnen bepaalde wijken van de hoofdstad aan te pakken.
