BLOG – Artificial intelligence (ai) heeft een vlucht genomen en daarmee zijn er tal van ai-tools ontstaan die het mogelijk maken om met een druk op de knop afbeeldingen en video’s te creëren. Dit levert leuke plaatjes op. De schaduwzijde is wanneer echt niet meer van nep te onderscheiden is en er schadelijke desinformatie verspreid wordt via deepfakes. De technologie wordt steeds geavanceerder en de gevolgen ervan kunnen enorm zijn. Het wordt tijd om de ogen te openen, we moeten de identiteit van mensen online beschermen.
In 2023 stond het totale aantal online-deepfakevideos op 95.820, een stijging van 550 procent ten opzichte van 2019 en dat aantal neemt naar verwachting alleen maar toe. Schokkender is dat 98 procent van de online gevonden deepfakevideo’s expliciet pornografisch is. Dit onderstreept het schrijnende misbruik van deepfaketechnologie, met name voor het genereren van expliciete en onrechtmatige inhoud.
Dat dit geen ver-van-ons-bed-show is, blijkt uit het nieuws dat tientallen bekende Nederlanders, Tweede Kamerleden en leden van het Koninklijk Huis figureerden in deepfake-pornovideo’s, die vaak tienduizenden keren zijn bekeken. Inmiddels hebben BN’ers en politici aangifte gedaan en wordt het debat over deepfakes volop gevoerd.
Deepfakes bedreigen de persoonlijke integriteit en het digitale welzijn
Deze trend heeft ingrijpende gevolgen voor privacy en toestemming in het digitale tijdperk. Met de mogelijkheid om zonder toestemming iemands uiterlijk te kopiëren en te manipuleren, bedreigen deepfakes de persoonlijke integriteit en het digitale welzijn. Een belangrijke wake-up call voor wetgevers om zich over dit vraagstuk te buigen.
Wet- en regelgeving
Het is moeilijk om het maken van deepfakes tegen te gaan. Tenslotte kun je binnen een paar minuten en zonder kosten een deepfake online laten maken. Daarom is het des te belangrijker om de verspreiding tegen te gaan. Deels gebeurt dit al vanuit de nieuwe Europese Digital Services Act (DSA), die in februari in werking is getreden.
Deze wet is bedoeld om internet op te schonen. Platforms worden gehouden aan strenge regels om zo te stimuleren dat ze de verspreiding van schadelijke content tegengaan. De grootste platforms, zoals Facebook, moeten ook preventieve maatregelen treffen tegen illegale content, zo schrijft de DSA voor. Verder verplicht de DSA platforms tot een meldpunt: het moet mogelijk zijn illegale content te melden. Bedrijven die zich niet aan de regels houden, riskeren een fikse boete: tot zes procent van de jaaromzet. Hoewel dit goede eerste stappen zijn, kent de DSA ook een gebrek. Zo wordt niet-consensuele deepfakes niet als illegaal aangemerkt.
Naast de DSA is ook de Europese AI Act in aantocht en deze verordening maakt het de makers van deepfakes verplicht hun content te watermerken, zodat het voor de consument duidelijk is dat het om ai-gegenereerde content gaat. Toch is het kwaad dan al geschied, want het beeld is al verspreid. Want ook al weten mensen dat het om een deepfake gaat, het is het beeld dat de schade aanricht en grote negatieve effecten kan hebben op het slachtoffer als het bijvoorbeeld om een naaktfoto of expliciete video gaat.
Hoewel het hier om een relatief nieuw fenomeen gaat, is het belangrijk om niet af te wachten, maar actie te ondernemen om dit maatschappelijke probleem aan te pakken. Bij voorkeur gaat dit verder dan onze landsgrenzen en zoeken regeringen de samenwerking op. Door het delen van informatie, best practices en middelen staan we samen sterker tegen kwaadwillenden.
Bewustwording
Onderdeel van het aanpakken van het probleem is het creëren van bewustwording bij burgers en de risico’s die gepaard gaan met het delen van te veel persoonsgegevens en de gevolgen die daaruit kunnen voortvloeien. Consumenten moeten weten dat deepfakes een realiteit zijn op sociale media en dat video’s waarin (bekende) mensen ongewone uitspraken doen mogelijk onecht zijn. Hun digitale kennis en kritisch denken moet gestimuleerd worden, zodat zij beter worden in het herkennen van deepfakes of op zoek gaan naar de informatiebron om te controleren of het nieuws echt is.
We kunnen er niet alleen op vertrouwen dat consumenten zelf misleidende inhoud herkennen
Toch kunnen we er niet alleen op vertrouwen dat consumenten zelf misleidende inhoud herkennen. Zeker niet gezien de technologie die steeds geavanceerder wordt waardoor echt en nep niet meer van elkaar te onderscheiden zijn.
Het is dan ook aan overheden en organisaties om proactieve maatregelen te nemen, die de identiteit van consumenten online beschermen en de integriteit van het digitale ecosysteem waarborgen. Daarvoor bestaan al verschillende innovatieve technologische hulpmiddelen, die gespecialiseerd zijn in het beschermen en beveiligen van je digitale identiteit. Zo zijn er beveiligingssystemen die authenticatiemechanismen integreren en zo het risico op deepfake manipulatie beperken. Dit omvat geavanceerde verificatie- en authenticatiemethoden met verschillende beveiligingslagen. Door het gebruik van biometrische authenticatie, multifactor-authenticatieprotocollen en machine learning-algoritmen wordt de veiligheid en integriteit van digitale identiteiten gewaarborgd.
Om als consument veilig online te zijn en blijven, is het belangrijk de regie te houden over je digitale leven, door bijvoorbeeld een door de overheid erkende ID-wallet te gebruiken. Een ID-wallet laat mensen zelf bepalen welke identiteitsgegevens zij delen en met wie. Consumenten kunnen zo’n wallet bijvoorbeeld gebruiken om in te loggen op een platform als Facebook of Instagram. Dit is een stuk veiliger en minder gevoelig voor fraude.
Uiteindelijk vereist het aanpakken van de verspreiding van deepfakes een veelzijdige aanpak, die gebruikmaakt van de collectieve expertise en middelen van overheden, burgers en technologiebedrijven. Door samen te werken, vergroten we het digitale bewustzijn, versterken we de digitale verdediging en stellen we onze online-identiteiten veilig.
Marcel Wendt is cto van Digidentity
Visuele misleiding is niet nieuw want als ik de beelden moet geloven is Hugo de Jong zo’n 63 keer gevaccineerd. Misschien geen expliciete pornografische beelden maar genaaid werden we wel. Als je na 63 keer prikken een gevaar blijft voor het welzijn van anderen dan is het digitale welzijn van groene vinkje tenslotte net zo betrouwbaar als een politicus. En deze prostitueren hun bekendheid toch al voor de zilverlingen waardoor de ophef over deepfakes niet om de identiteit gaat maar het imago. In het beschermen van de biometrische kenmerken zegt de misleidende inhoud van een blouse ook niks over het IQ of ben ik in de metaforen te expliciet als het om het ‘zijn’ van een identiteit gaat?
ID-wallet als consument gaat ook niet om de identiteit maar om kredietwaardigheid, het feit dat ik persoonsgegevens moet geven om iets te kunnen kopen op Internet staat dan ook haaks op het beschermen van de privacy. Anoniem betalen zonder belasting toegevoegde waarde geeft niet alleen meer privacy maar ook meer koopkracht alleen is dat niet in het belang van Big Brother.