De Europese Artificial Intelligence Act (AI Act) loopt mogelijk vertraging op. Het wetsvoorstel van de Europese Commissie waarmee de lidstaten op 6 december jl. hebben ingestemd, houdt geen rekening met generatieve ai zoals ChatGPT. En uitgerekend deze ai die in een handomdraai uiteenlopende content voortbrengt, zorgt voor de meeste ophef.
Het wachten is op een akkoord binnen het Europees Parlement. Aanvankelijk leek een politiek compromis eind deze maand haalbaar. Maar ChatGPT dreigt roet in het eten te gooien. De AI Act moet bepaalde ai-toepassingen zoals social scoring en bepaald vormen van gezichtsherkenning verbieden. Bovendien komen er strikte eisen voor ai-toepassingen met een hoog risico.
En generatieve ai is niet zonder risico’s, zoals het produceren van fake news, gemanipuleerde beelden en andere vormen van desinformatie. Grote taalmodellen zijn voor een grote variëteit aan doelen in te zetten. Dan is een goede afbakening van hoog-risicoclassificaties en hoog-risicogebieden bepaald geen overbodige luxe.
De kans bestaat dus dat de Europese regelgevers terug naar de tekentafels moeten. De hamvraag is hoe de EU over generatieve ai de controle kan krijgen, stelt het Europese media-netwerk Euractiv. Binnen het Europees Parlement werken twee rapporteurs, de Italiaan Brando Benifei en de Roemeen Dragos Tudorache, aan voorstellen die tot een akkoord over de AI Act moeten leiden. Dit leidende duo stelt voor om ai-systemen die zonder menselijke tussenkomst complexe teksten voortbrengen. als ‘hoog-risico’ aan te merken. Daar is kritiek op, omdat daarmee veel volkomen ‘onschuldige’ activiteiten op de risicolijst komen te staan. Anderzijds zouden andere vormen van generatieve ai die geen teksten voortbrengen maar wel risicovol zijn, buiten de regelgeving vallen.
Mochten Benifei en Tudorache niet snel met voorstellen komen die voor het Parlement acceptabel zijn dan zou de totstandkoming van de AI Act weleens een stevige vertraging kunnen oplopen.
Mensenrechten
Nederland ondersteunt de huidige voorstellen van de Europese Commissie. De regering tilt zwaar aan de versterking van mensenrechten via de registratieplicht voor gebruikers van hoog-risic-ai, klachtrecht en het meenemen van mensenrechten in de risicoanalyse. Daarnaast hecht Nederland waarde aan de versterkte ‘regulatory sandbox’ waardoor het leerproces van ervaringen in de sandbox worden gebruikt voor betere handhaving en regelgeving. Deze aspecten moeten volgens Nederland behouden blijven tijdens de onderhandelingen met het Europees Parlement.
Dit verhaal laat zien hoezeer ChatGPT ons uitdaagt. Ik benijd Benifei en Tudorache niet. Het denkwerk wat nodig is om te komen tot goede regelgeving moet nog helemaal van de grond komen. De vertraging van de AI act zal dan ook wel plaatsvinden. Maar hoe erg is dat? Er is heel wat creatief denkwerk voor nodig om oplossingen te vinden voor het Grote Dilemma: enerzijds kunnen de gevolgen van een ongebreideld gebruik van generatieve AI de maatschappij ontwrichten; anderzijds hou je het niet tegen. Ik hoop dan ook dat de kwaliteit van het denkwerk goed zal zijn.
Hopen op regelgeving uit de EU heeft tot nog toe weinig positiefs gebracht behalve de invoering van censuur en het financieren van de propagandamachine euvsdisinfo.eu dat met millioenen volgestopt wordt en overbodig is.
Momenteel hobbelt de hele EU gevoerd van o.a. Duitsland achter een buitenlandse schreeuwer die met een beetje pech heel Europa (inkl. eu) tot een oorlogsgebied maakt, dat hadden we al een keer met alleen Duitsland toch? Ja, wie uit het verleden niets leert is gedwongen de geschiedenis te herhalen.
Toen de EU nog EEG was, zag het er beter uit.
Wetgeving moet specifiek genoeg zijn om de problemen te kunnen reguleren, maar ook algemeen genoeg om niet steeds weer achter de technologische ontwikkelingen aan te lopen of “oplossingen” voor non issues aan te dragen. Zoals Stef Joost aangeeft is dat heel lastig. En dan moeten alle staten van de EU ook nog eens gezamenlijk instemmen met de voorstellen. MS en Google willen niet dat ChatGPT en Google Bard onder de AI Act regulering zouden vallen. Wat is hun probleem?
Ja Jan, de uitvoering van euvsdisinfo.eu door ambtenaren is wel eens pover en soms gewoon slecht. Het was misschien een leuk idee, maar factchecking kan je beter overlaten aan professionele journalisten, wetenschappers en ervaringsdeskundigen op het gebied.Volgens het Kremlin is Euvsdisinfo Westerse agitprop, net als Wikipedia dat zou zijn. De Telegram kanalen van Russische nazi’s en ultranationalisten vanuit Rusland laten echter onbedoeld zien waar de meeste onzin vandaan komt, uit Sint-Petersburg en het Kremlin. Euvsdisinfo is geen propagandamachine, maar schiet soms door. De ambtenaren komen uit de gehele EU en hebben zo hun nationale achtergrond. Ze hebben ook een lastige opdracht. Je hebt Russische staatsmedia zoals rt.com met eigen trollenleger voor reageerders en de Russische zenders van VGTRK. Dan weet je waar het officiële maar tegenstrijdige “nieuws” vandaan komt. Maar een oligarch als Jevgeni Prigozjin, gebruikt als ervaren crimineel vele kanalen, ook in derde landen zoals Nederland. Prigozjin werd bij ons bekend als de zakenman achter de Wagnergroep huursoldaten, de zwaarbewapende ‘groene mannetjes’ van 2014 op de Krim en het slechte eten voor Russische soldaten en scholieren, maar hij heeft veel meer bedrijven. Prigozjin heeft toegegeven dat hij met zijn bedrijven, zoals Internet Research Agency, diverse verkiezingen in het Westen via derden partijen heeft beïnvloed. De Chinezen spelen het heel veel slimmer.
‘Toen de EU nog EEG was, zag het er beter uit’. Dat was de periode 1957 tot 1993. Was toen alles beter? ‘Qua solidariteit en opbouwmentaliteit wel, maar niet alles. De helft van West-Europa lag achter het ijzeren gordijn met automatisch te activeren machinegeweren bij het prikkeldraad. In 1993 was connectiviteit vaak slecht tot geheel afwezig. Het instabiele Windows 95 moest nog uitgebracht worden. Voor een mobiele telefoon (ATF-3) moest je een auto meenemen. Internet / ARPANET was er pas in 1982 en nog lange tijd niet beschikbaar voor de burgers. Voordeel was wel dat cybercrime zoals bank spoofing nog niet mogelijk was en veel bankzaken nog van mens tot mens verliepen.
Wie uit het verleden niets leert is gedwongen de geschiedenis te herhalen zet naar mijn mening een ander licht op de AI van ChatGPT. Want wie schrijft nu eigenlijk de geschiedenis welke we als les moeten leren? Journalisten, ambtenaren en politici zijn niet de mensen die objectief analyseren door een zekere mate van belangenverstrengeling. En objectiviteit in algoritmen schijnt nog een dingetje te zijn in maatschappelijke discussie, de input nog even buiten beschouwing latend.
Machine gegenereerde desinformatie die door velen als waarheid gezien wordt is een hoog risico in de bedot.com economie. Agitprop van een mening die een hefboom krijgt door vermenigvuldiging gaat tenslotte om een reuring door schaal. Want het politburo in Washington is niet veel anders dan in Moskou als ik kijk naar het westerse imperialisme, de drang om landen cultureel, economisch of militair te overheersen is nog even sterk als in de 19de eeuw. De export van westerse waarden zoals een gelijkheid voor vrouwen was geen succes in Afghanistan.
Wat betreft een import van niet-westerse waarden was vroeger alles beter omdat er toen zoiets was als assimilatie. Aanpassing aan een dominante cultuur betekent in huidige digitale maatschappij dat je de macht over sociale media moet hebben. Op dat moment kun je agitprop van woke-beweging verspreiden omdat je in slaap gesust wordt met het idee dat sociale media eerlijk en objectief zijn door een ‘onafhankelijke’ controle erop door journalisten, ambtenaren en politici.
@Jaap, een kleine correctie. Het ARPANET is gestart in 1969 met vier nodes. In de jaren 70 en 80 werd het netwerk steeds meer uitgebouwd, met name onderzoeksinstituten en verschillende bedrijven maakten gebruik van dit netwerk. In eerste instantie was dit een NCP netwerk, in 1983 werd TCPIP ingevoerd als basis voor de communicatie.
Het internet zoals we dit nu kennen, met protocollen als http, html en url, is in 1989 bij het CERN ontwikkeld. Dit werd vrijgegeven op 6 augustus 1991, wat effectief wordt gezien als de geboortedatum van het huidige internet.
In 1989 werd internet aangeboden via NLnet, maar alleen voor bedrijven. Uit onvrede hierover startte XS4ALL in 1993 diensten voor particulieren. Vandaar ook de naam “Toegang voor iedereen”.
@Berry, ik was niet duidelijk genoeg. In maart 1982 was de Internet Protocol Suite klaar en geaccepteerd door de belangrijkste spelers op ARPANET. Dat was een grote mijlpaal voor de overgang van ARPANET naar Internet. Die overgang was op 1 januari 1983 afgerond (de toenmalige versie van TCP/IP protocols werd geactiveerd) en daarbij werd het Military Network (MILnet) fysiek gescheiden van Internet / ARPANET, m.u.v. e-mail Gateways. Computers konden op vele duizenden kilometers afstand bestanden met elkaar uitwisselen dankzij de communicatie protocollen en applicaties. Daarna volgden nog veel stappen en stapjes en ontstond het OSI-model. Helaas duurde het nog ruim een decennium voordat het normaal werd dat alle computers in één ruimte met elkaar verbonden konden worden.
Wat betreft een ontwikkeling van een netwerk ligt bij sommigen de focus nog teveel op techniek in een discussie die om communicatie gaat. Of om specifieker te zijn, de miscommunicatie als gevolg van onvolledigheid of onbetrouwbaarheid. Kijkend naar begrip ‘generatieve ai’ zou ik een definitie ervan duidelijk willen hebben. Want huidige technocratie faalde tenslotte al meerdere keren doordat een ‘regulatory sandbox’ van toetsing via de rechter misging. De menselijke tussenkomst in iets wat om mensen gaat is wel prettig als we kijken naar Kafka want OSI-model is niet het probleem maar de inzichtelijkheid in algoritmen.
Een opiniërende journalistiek gaat om de kijkcijfers en niet om de waarheid want in zeker 5 landen waar ik afgelopen 10 jaar werkte bleek de realiteit anders te liggen dan gepresenteerd in media. En in eigen land bleek achteraf de waarheid anders te liggen dan gepresenteerd door het ministerie van Waarheid want ‘generatieve ai’ van oncontroleerbare verhaaltjes gaat om een leugen die regeert. Het fenomeen van desinformatie gaat tenslotte om een narratief, de zoete koek van een geloofwaardige leugen. De vraag gaat om controle op ‘generatieve ai’ en niet om verspreiding ervan via Internet, de afsluiting hierin gaat namelijk om censuur.
Toevallig keek ik weer eens op de site… leuk nieuws, deze week komt GPT-4 uit volgens de CTO van Microsoft Duitsland 🙂
Juist omdat het uiteindelijk om communicatie tussen mensen gaat, dienen we niet te vergeten dat we, elk vanuit onze eigen ervaringen, normen en waarden, een meer of minder gekleurde bril op hebben. Van ons zelfbeeld over Nederland bestaan er in Nederland ongetwijfeld zeker zo veel versies als we “bondscoaches” hebben. Meerdere afstandelijke blikken geven in het algemeen een meer evenwichtig beeld. Maar ons zelfbeeld is anders dan het beeld over ons in het buitenland. Een buitenlandse blik van een rondreizende IT-er kan van toegevoegde waarde zijn.
Opiniërende journalistiek bestaat eigenlijk niet. Zelfs Fox News schrijft dat feitelijke journalistiek en opinies gescheiden moeten worden aangeboden. Natuurlijk is de praktijk weerbarstig. De rechtszaak van IT bedrijf US Dominion Inc. versus Fox News Network LLC, laat dat zien. Zie https://www.nu.nl/media/6254967/unieke-zaak-vs-fox-news-voor-de-rechter-voor-leugens-over-verkiezingsfraude.html en https://www.documentcloud.org/documents/20527880-dominion-v-fox-news-complaint. Fox News geeft nu aan dat hun eigen herhaalde uitspraken tijdens het nieuwsprogramma Fox & Friends over Dominion Voting Systems en “gestolen” verkiezingen, geen nieuws was, maar slechts vrije uitingen van hun mening, die feitelijk niet waar hoeven te zijn om nieuwswaardig te zijn. Intern wordt laatste nader omschreven. Het heeft te maken met kijkcijfers van zichzelf en die van hun concurrenten met globaal dezelfde doelgroep.
Zou de AI van ChatGPT v.4 ook Fox News kunnen doorgronden, nu zoveel interne documenten van Fox News zijn vrijgegeven?