Eenvoudige toepassingen van kunstmatige intelligentie (ai) zien we dagelijks om ons heen. Slimme home-speakers, Siri en Cortana, gepersonaliseerde sociale-media-feeds en website-advertenties zien zich aangestuurd door ai-technologie. Op welk punt raken privacyrechten van de consument in het geding en schrikken 'griezelige', door ai-gedreven advertenties ons af?
De ai-markt zal de komende jaren snel groeien. De investeringen in deze technologie bedragen bijna 12,5 miljard dollar en zullen naar verwachting groeien naar 232 miljard dollar tegen 2025. Vraag is of de technologie ongecontroleerd kan blijven groeien of dat er regelgeving nodig is om te voorkomen dat ai met kwade zinnen wordt gebruikt.
Velen zien ai als iets dat bedrijven in staat stelt innovatie te bevorderen en willen regelgeving invoeren om de verstoring van de groei van de technologie tot een minimum te beperken. Anderen maken zich zorgen over privacy, discriminerende ai-algoritmen, ongecontroleerde groei en mogelijk ongerechtvaardigd gebruik.
Naast de duidelijke voordelen van ai, is de technologie voor velen dus ook een punt van zorg. Naarmate ai meer ingang vindt in zowel ons persoonlijk als ons beroepsleven, zal er steeds kritischer op moeten worden toegezien dat het wordt gebruikt als een kracht voor het goede.
Hangijzer
Privacy is altijd al een heet hangijzer geweest en dat zal niet snel veranderen. We zien discussies rond ai en gegevensprivacy op wereldschaal – de Europese Commissie overweegt een verbod van vijf jaar op gezichtsherkenningstechnologie vanwege mogelijke ‘Big Brother’-achtige implicaties. Vorig jaar verklaarde IBM te zullen stoppen met het aanbieden van gezichtsherkenningssoftware en zei het dat ai-systemen die door rechtshandhavingsdiensten worden gebruikt, getest moeten worden op partijdigheid. Amazon en Microsoft volgden al snel. Op sociale media verspreiden zich door ai gegenereerde deep fakes en er is geen tekort aan verhalen die de raciale of gendervooroordelen in verschillende ai-systemen benadrukken. Dit probleem speelt een belangrijke rol voor de acceptatie van ai door het publiek en moet dan ook zo snel mogelijk worden opgelost.
Het is belangrijk te onthouden dat ai enorme potentie biedt – van het helpen van steden bij het plannen van doorvoerroutes tijdens piekuren tot chatbots die een grotere klanttevredenheid mogelijk maken. Deze potentie houdt echter ook in dat er duidelijk gedefinieerde privacygrenzen moeten zijn. Dit kan door gebruikers te verplichten opt-in te verlenen, vergelijkbaar met AVG/GDPR, voor het delen van hun gegevens voor analyse en verwerking door ai.
Evenwicht
Slechts het topje van de ijsberg is nog maar ontdekt met betrekking tot de mogelijke toepassingen van ai. Er zijn bijna eindeloze mogelijkheden voor de groei en adoptie van de technologie. Van de grootste vragen waar we vandaag voor staan, tot de alledaagse hacks in het leven. Naarmate ai meer gegevens verzamelt, op persoonlijk niveau maar ook op het niveau van de lokale overheid, nationaal of mondiaal, is een evenwichtige regelgeving van essentieel belang. Deze regelgeving zou de privacy van particulieren moeten beschermen, maar ook de industrie de kans gegeven om te innoveren.
Regelgeving dwingt technologen na te denken over de neveneffecten van ai op lange termijn en de mogelijke toekomstige problemen die zich over een jaar, een decennium of een eeuw kunnen voordoen. Aangezien ai nog in de kinderschoenen staat, zullen er nog heel wat plannen, initiatieven en regelgeving worden voorgesteld voordat hier een duidelijk plan voor ontstaat. In theorie is het ‘Global Partnership on ai’ een goed idee. Het is echter belangrijk om een evenwicht te vinden en regeringen zullen waakzaam moeten zijn voor te ver doorgevoerde regelgeving. Een wereldwijde coalitie maakt een gesprek op lange termijn mogelijk naarmate de technologie zich ontwikkelt, maar het is geen geval van ‘eenmalig en klaar’.
Om ervoor te zorgen dat ai innovatieve diensten aan eindgebruikers kan blijven leveren, moeten bedrijven ervoor zorgen dat ze binnen een kader van regelgeving werken zonder dat hun handen vastgebonden zijn. Ze moeten op de hoogte blijven van de manier waarop een bepaalde ai-toepassing wordt ontwikkeld en ervoor zorgen dat deze geen inbreuk maakt op privacyrechten of meewerkt aan maatschappelijke problemen, zoals gender- en rasvooroordelen en veiligheidsrisico’s.
Bedrijven zullen een holistische aanpak moeten kiezen om privacyproblemen aan te pakken, in plaats van een versnipperde aanpak. Genuanceerde wetgeving is nodig, die een groter goed waarborgt zonder de innovatie te belemmeren.
Gebrek
Bij gebrek aan voorschriften of normen hebben veel techbedrijven geprobeerd hun eigen ethische code of voorschriften op te stellen die hun ontwikkeling van ai sturen. In 2018 publiceerde Google zijn eigen ai-beginselen om de ethische ontwikkeling en het gebruik van de technologie te helpen sturen. Maar zonder een breder regelgevend kader zijn bedrijven in de essentie vrij om te kiezen hoe ze hun ai-systemen ontwikkelen. Regelgeving biedt een breed kader om binnen te werken, zonder de grenzen te overschrijden en beperkend te worden. Door samen te werken aan een kader dat voor iedereen werkt en op verantwoorde wijze wordt ontwikkeld, kan ai ons leven écht verbeteren.
Het recht om onbespied te mogen leven geldt uiteraard ook de AI algoritmen, het profileren zit dus aan de duistere kant van het recht hoewel m.n. overheden hierin geïnteresseerd zijn. Want onder de noemer van veiligheid worden er nog vele duistere zaken gedaan als we kijken naar het koppelen van mens aan machine – zoals een identificeerbare smartphone – en een referendum waarin we NEE hebben gezegd tegen de ongekende mogelijkheden van een sleepwet.