Kunstmatige of artificiële intelligentie (ai) is hot en mensen zijn trots om hiermee te werken. Maar is dat over tien jaar nog steeds het geval? Die vraag stelt Florian Douetteau, ceo van dataspecialist Dataiku, tijdens zijn EGG-conferentie in Londen. Hij vreest voor de negatieve kanten van de technologie en roept softwareleveranciers op om op een ethische manier met ai om te gaan.
De Fransman vertelt dat hij onlangs na een lange werkdag het nieuws op zijn telefoon bekeek. ‘Ik kwam een artikel tegen waarin stond dat cybercriminelen een NSA-hackingtool hadden bemachtigd om de cyberaanval op Baltimore te plegen. Ik vroeg me op dat moment af of dit realiteit of nepnieuws was.’ Dit zette hem aan het denken over de krantenkoppen over zo’n vijf tot tien jaar. ‘Wellicht lezen we dan dat populaire – lees slimme – consumentenapparaten in de afgelopen jaren in het geheim je stem hebben opgenomen’, werpt hij een blik op de toekomst.
Kunstmatige intelligentie is niet slecht, maar het kan wel op een verkeerde manieren worden ingezet. ‘Hiermee kan men het vertrouwen in de technologie verliezen en het is dan nog maar de vraag of mensen dan nog hiermee willen werken.’ Douetteau vraagt zich af in hoeverre softwareleveranciers, zoals Dataiku zelf, invloed hebben op de inzet van kunstmatige intelligentie en wat hun rol is om ervoor te zorgen dat ai niet op een verkeerde manier wordt ingezet.
‘Natuurlijk kunnen we niet alles veranderen, maar we hebben wel invloed op kleine dingen. Voorop staat dat je geen slechte dingen met de technologie moet willen doen en dat je als bedrijf hierover moet nadenken’, stelt de directeur. Hij vindt dat systemen zo moeten worden ingericht, dat gebruikers geïnformeerd worden als een algoritme of model verkeerd wordt ingezet. ‘Systemen moeten direct een pop-up tonen en het moet bedrijven duur komen te staan als ze dit niet inzichtelijk maken.’
Daarnaast is hij van mening dat bedrijven tijd en energie moeten investeren om juist met de technologie om te gaan. ‘Het is de verantwoordelijkheid van de mens om goed met technologie om te gaan. En wij moeten de afweging maken of je bepaalde data of algoritmes wel of niet gebruik. Kies ethiek boven de snelheid om een product of dienst te leveren.’
Ethische bezwaren
Ceo Douetteau is niet de eerste die stil staat bij de voor- en nadelen van kunstmatige intelligentie. De afgelopen tijd buigen bedrijven, wetenschappers en overheden zich steeds vaker over de vraag of de mogelijke bezwaren van de technologie moeten worden opgevangen en de angst onder gebruikers kan worden weggenomen. Zo startte de Europese Commissie vorige maand een pilootfase voor het opstellen van ethische richtlijnen voor betrouwbare ai en publiceerde branchevereniging Nederland ICT kort daarvoor een gedragscode voor kunstmatige intelligentie.
Een ander voorbeeld is softwareconcern SAP dat een code over ai en ethiek opstelde en een externe raad in het leven riep die ai-toepassingen toetst. Ook it-gigant IBM maakt ai-beslissingen inzichtelijk in een open bron-tool die ‘afzwakkingen’ en ‘vooroordelen’ (‘mitigation’ en ‘bias’) van ai-systemen zichtbaar maakt en werkt met software en apparatuur van verschillende fabrikanten, waaronder Watson van IBM zelf, Tensorflow, SparkML, AWS Sagemaker en AzureML. Dat moet voorkomen dat ai een zwarte doos wordt waarvan niemand meer weet hoe het tot een besluit kwam.
EGG
Dataiku, opgericht in 2013, biedt een samenwerkingsplatform voor data science. Het bedrijf organiseert jaarlijks zijn EGG-conferentie in meerdere steden wereldwijd, waaronder Londen, New York en Parijs. Tijdens de conferentie worden kennissessies georganiseerd over kunstmatige intelligentie. Eén van de aandachtspunten tijdens het evenement op 2 juli in Londen was de ethiek rond ai.
