Nepnieuws is al jaren een groot probleem, en het wordt nog erger. Nepnieuws is al nauwelijks te onderscheiden van echte, objectieve berichtgeving. Internetbrowsers en mediabedrijven kregen de afgelopen jaren de verantwoordelijkheid om de verspreiding hiervan tegen te gaan. De opkomst van deepfakes of ‘digital me’ is de volgende stap in technologische ontwikkeling.
Gartner noemde ‘digital me’ onlangs als een van de vijf opkomende innovatieve technologieën. Met behulp van kunstmatige intelligentie (ai) is het mogelijk nepvideo’s te maken waarin het lijkt alsof iemand iets zegt die dat in werkelijkheid niet heeft gedaan. Dit brengt belangrijke implicaties met zich mee voor nepnieuws, fraudepreventie, persoonlijke reputatie en ga zo maar door. Om dit te voorkomen, hebben we meer nodig dan ai.
Oorlog winnen
We zullen deze oorlog alleen winnen als we technologie combineren met beleid en bewustwording. Om een partnerschap tussen overheden, technologiebedrijven en consumenten te bereiken, moeten we een stap terug doen. Wat hebben we nodig om te profiteren van de voordelen van deze nieuwe technologie? Want hoe vermakelijk is het als we YouTube-video’s kunnen zien waar beroemdheden dingen (lijken te) zeggen die ongelooflijk zijn? Technologie verbetert de klantervaring en vermindert de productietijd en -kosten. Maar betekent dit het einde van betrouwbare video’s als je met ai iedereen alles kunt laten zeggen?
Alle nieuwe toepassingen gaan hand in hand met een grote behoefte aan solide wetgeving. Er moeten grenzen zijn aan de mate waarin we technologie gebruiken, en er moeten kaders zijn die ons helpen om nep van echt te onderscheiden. Wanneer bijvoorbeeld deepfake wordt gebruikt om personen dingen in de mond te leggen die ze nooit in het echt zouden zeggen, moet het op voorhand duidelijk worden gemaakt aan de kijker dat de video is gemanipuleerd door ai, op dezelfde manier wanneer er gemeld wordt dat er sprake is van product placement. Een andere manier is om consumenten de grens te laten trekken tussen echt en nep door zelf ‘mensen naar keuze’ in video’s en advertenties te plaatsen.
Voor bedrijven die zich zorgen maken over de impact van deepfakes op hun reputatie en betrouwbaarheid, hebben we tools nodig die dit soort video’s kunnen detecteren. Ook hier is samenwerking tussen overheden en it-bedrijven belangrijk. Denk aan de mogelijkheden om de ip-adressen van overtreders te identificeren, of aan het voorlichten van het grote publiek over het herkennen van deepfakes en nepnieuws zoals scholen in Frankrijk dat doen.
Regelgeving
Het goede nieuws is dat er vaart zit in de regelgeving. Tot nu toe heeft de EU de meest toekomstgerichte stappen ondernomen om zich te verdedigen tegen alle vormen van opzettelijke desinformatie, door een strategie te publiceren om desinformatie aan te pakken, waarin ook relevante richtlijnen zijn opgenomen om je te beschermen tegen deepfakes.
Geen enkele moderator of systeem zal ooit volledig onfeilbaar zijn. Terwijl we met z’n allen blijven streven naar een overkoepelende oplossing, is het aan ons allemaal op onze hoede te blijven.
David Ingham, digital partner media & entertainment bij Cognizant
Dat het Ministerie van Waarheid ons leugens presenteert weten we al sinds 1984 want het eerste slachtoffer in een communicatieoorlog is tenslotte de waarheid. Zo maakt de reguliere media al jaren misbruik van allerlei vormen van beeldmanipulatie om zodoende onze mening te beïnvloeden. En van een instemmend knikkend publiek op de achtergrond naar de deepfakes is maar een kleine technologische stap welke door sociale media dus gedemocratiseerd wordt. Ruim 8 jaar geleden schreef ik hier een opinie over de schaduwkanten van sociale media doordat je met relatief weinig middelen de publieke opinie kunt beïnvloeden, ten voordele en ten nadele.
En mijn grootste angst is daarom de regelgeving die bedacht wordt in Brussel, het nieuwe Moskou. Het ‘read my lips’ van eerdere (politieke) beloften is namelijk niet door deepfakes ongeloofwaardig geworden.
@Oudlid ‘reguliere media die zich bedienen van beelmanipulatie’, ‘brussel het nieuwe moskou’. Nou nou, heb je voorbeelden van reguliere media die beelden manipuleren? Of geloof je ook in dat geleuter over MSM, de links NOS, etc etc. Zeker sociale media, internet hebben grote invloed op mening en beeldvorming, ieder zijn eigen waarheid. Hoe is het anders mogelijk dat er allerhande mensen zijn die in idiote complotten geloven. Vind dat er een groot verschil is tussen Brussel enerzijds en anderzijds Moskou, Peking en Washington. De EU is vooral een economische macht.
Overigens, leuk en interessant artikel.
ha die oudlid,
wie is hier nu de zuurpruim 😕
en fujitsu is het nieuwe oracle ?
Louis,
Om te beginnen bij het laatste, de beleidsterreinen waar Brussel zich mee bemoeit gaan wel wat verder dan alleen de economie als we kijken naar het verdrag van Lissabon. En natuurlijk is het maar een mening dat het nastreven van sociale samenhang en solidariteit tussen de onderlinge lidstaten middels ondemocratische achterkamertjes in Brussel meer past bij het heilstaat idee van Moskou dan van Washington maar het vormen van een mening wordt uiteindelijk beïnvloed door de informatie die je krijgt. Blijkbaar beginnen sommigen te begrijpen dat het spel van buitenlandse beïnvloeding in binnenlandse politiek middels sociale media ook tegen je kan gaan werken, een beïnvloeding van de influencer door bedrijven middels lobby is heel gebruikelijk in Brussel. Voor wat het waard is zie: https://lobbyfacts.eu/
Dino,
Het gaat er niet om of ik geloofwaardig ben of niet want ik heb achteraf toch altijd gelijk zoals blijkt met oude opinie over het controleren van Twitter accounts zoals ik 8 jaar geleden uitlegde. Ik begrijp dat ik hier 2 jaar geleden nog €6 miljoen mee had kunnen verdienen hoewel het principe van ethos, pathos en logos ondertussen wel achterhaald is door TikTok. Want het verschil tussen nieuws en de waarheid is de tijd ook al zet je er expliciet bij dat een video bewerkt is dan is er nogal altijd zoiets als de suggestie. En leugens verspreidt je dan ook het beste onder de valse dekmantel van een Russische proxy zodat je achteraf kunt zeggen dat verkiezingsuitslag gemanipuleerd is, uiteraard alleen als je verliest want als je wint dan zijn het je vrienden;-)