Door de opkomst van artificiële Intelligentie (ai) is ethiek in het centrum van de belangstelling gekomen. Zo wint het besef terrein dat ethische kernwaarden zoals privacy meteen in het ontwerp van ai-modellen moeten worden meegenomen. Beantwoord vooraf de vraag wat je met die modellen wil gaan doen, in welke context, met welke data. En of er bias in de dataset zit. Nieuwe wet- en regelgeving van de Europese Commissie brengt dit nog eens in een stroomversnelling, waarna iedereen er uiteindelijk mee te maken krijgt.
De nieuwe Nationale AI en Ethiek cursus, die vandaag start, is dan ook geen overbodige luxe; een logisch vervolg op de Nationale AI-Cursus. Negen experts op dit gebied doen op het Amsterdam Science Center de aftrap.
Een van de sprekers is Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft. ‘De tijd is voorbij dat over ethiek lacherig werd gedaan,’ stelt hij. ‘Dit wordt nu terecht serieus genomen.’ Om te voldoen aan de privacywetgeving hebben veel organisaties zich gewend tot consultancy-bedrijven. Datzelfde zie je thans gebeuren met ai en ethiek. De toepassing van ai brengt veel ethische vragen met zich mee. Het is zaak hier in een vroeg stadium over na te denken. Bereid je goed voor, adviseert de Delftse hoogleraar.
Van den Hoven: ‘Probleem met ethiek is dat veel begrippen niet eenduidig zijn gedefinieerd. Neem bijvoorbeeld fairness. Hier zijn wel twintig definities van. Je moet eerlijk zijn met algoritmes. Zo is selectie naar etnische afkomst uit den boze. De vraag is welke definitie van fairness je het beste kunt gebruiken en waarom. Informatici hebben hier niet voor doorgeleerd. Daarom is het nog vrij lastig abstracte ethische begrippen te vertalen naar concrete vereisten waaraan een algoritme of ai-toepassing moet voldoen. De duivel zit in de details.’
Hoge hoed
Bij het ontwerp moet niet alleen rekening worden gehouden met waarden als fairness en non-discriminatie, maar ook met privacy, security en duurzaamheid. Maar hoe doe je dat? En ben je hier transparant over? Hoe kom je aan een bepaald resultaat? Van den Hoven: ‘Het mag niet een konijn uit een hoge hoed zijn.’
De Delftse hoogleraar zag zijn vakgebied de laatste jaren veranderen. ‘De digitale ethiek wordt steeds technischer. Voor morele vraagstukken probeert it vaak technische oplossingen. Door gezichten op foto’s grofkorrelig te maken, worden personen onherkenbaar. Zo zijn tal van technieken ontwikkeld die de privacy vergroten. Data zijn te anonimiseren. Je kunt nog wel zien wat je moet zien. Maar je hoeft niet op niveau van het individu te kijken. Neem homomorfe encryptie die het mogelijk maakt (bepaalde) berekeningen te maken op versleutelde tekst. Om de berekening uit te voeren, hoeft de versleutelde data niet eerst ontsleuteld te worden. Machine learning is mogelijk door met synthetische data te werken.’
Deze ontwikkelingen zorgen ervoor dat publicaties die vroeger alleen in ethische vaktijdschriften verschenen nu veelvuldig in wetenschappelijke informatica-bladen terecht komen. Ethici moeten multidisciplinair disciplinair werken. TU Delft, gespecialiseerd in ethiek en engineering, werkt samen met andere universiteiten mede omdat een juridische faculteit ontbreekt. Ethiek is in Delft inmiddels een verplicht vak. Wetenschappelijke instituten werken nauw samen met de (rijks)overheid.
Europese Commissie
Met name vanuit de Europese Commissie komt er veel op ons af op het gebied van de digitale ethiek. De EU wil versneld digitaliseren en ai speelt een hoofdrol bij slimme oplossingen voor maatschappelijke kwesties rond klimaat, energie, zorg en transport.
Volgens Van den Hoven zijn de beleidsmakers in Brussel en Den Haag ervan overtuigd dat ethiek bij ondernemerschap en technische vernieuwing een kritische factor voor succes is. ‘Je kunt innoveren wat je wilt. Maar als burgers er geen vertrouwen in hebben gaat het niet werken’, besluit hij.
Hierbij maak ik een start met een discussie over ethiek m.b.t. AI die eindigt met elkaar beledigen.
Misschien onderschat ik ons vaste panel, want het kan vast al veel eerder. Met doorstarts enzo.