De OpenAI-sage onderstreept de noodzaak van strikte regels rond ai. Demissionair staatssecretaris Alexandra van Huffelen (Digitalisering) stelt dit naar aanleiding van de dreigende leegloop van OpenAI, de ai-pionier die sinds het ontslag van topman Sam Altman in een diepe crisis verkeert.
‘Het gebrek aan transparantie en de afhankelijkheid van een paar invloedrijke bedrijven onderstreept naar mijn mening duidelijk de noodzaak van regulering’, aldus Van Huffelen tegenover persbureau Reuters. Ze reageert daarmee ook op een oproep van de gezaghebbende Amerikaanse ai-expert Gary Marcus (Universiteit van New York) die de EU met klem vraagt de voorgenomen AI Act snel in te voeren. ‘Laat die wet alsjeblieft niet ondermijnen; we hebben deze nu meer dan ooit nodig,’ stelt Marcus op X.
Zelfregulering
Nederland is nog bezig een standpunt te bepalen over het akkoord dat Frankrijk, Duitsland en Italië hebben bereikt over de ai-regulering. Deze drie grote EU-lidstaten hebben de koppen bij elkaar gestoken om de onderhandelingen over deze verordening te bespoedigen. De drie landen zijn het eens over aantal basisregels die omschrijven hoe ai-toepassingen moeten worden gereguleerd. Ze streven naar zelfregulering aan de hand van gedragscodes voor ai-basismodellen.
Ontwikkelaars van die basismodellen moeten informatie over die modellen verschaffen in zogenoemde ‘model cards’. Daarin moet de werking van het model worden uitgelegd, alsook de mogelijkheden en beperkingen ervan. Verder opteren de drie landen voor een ai-toezichthouder die deze modelkaarten moet controleren. Ook zou deze ai-waakhond richtlijnen kunnen ontwikkelen.
Het akkoord spreekt vooralsnog niet over sancties. Maar bij overtredingen van de gedragscode komt er mogelijk toch nog een sanctiesysteem. Duitsland vindt dat ai niet gereguleerd moet worden door wetten, maar enkel de toepassing ervan. Anders zou het de kansen van Europa op het gebied van ai te veel beperken.
Struikelblokken
Eerder dit jaar stemde het Europees Parlement in met de komst van een ai-verordening. De AI Act zou ten vroegste in 2026 in werking treden. Mogelijk zal de overeenstemming de onderhandelingen op Europees niveau versnellen, aldus Reuters,
De afgelopen weken zijn de gesprekken in de EU op struikelblokken gestuit over de mate waarin bedrijven zelfregulering zouden moeten krijgen. Brando Benifei, een van de twee Europarlementariërs die de onderhandelingen over de AI Act leidt, zegt dat de affaire rond Altman aantoont dat we niet kunnen vertrouwen op vrijwillige overeenkomsten. Zeker waar het gaat om de krachtigste ai-modellen is transparante wetgeving nodig om de maatschappij te beschermen, aldus Benifei.
Update 16.58 uur: Goede afronding
Volgens Van Huffelen laat het standpunt van de drie landen zien dat de ideevorming rond de regulering van ‘foundation models’ in de ai-verordening nog volop in ontwikkeling is. Zij zegt: ‘De komende periode zullen we inventariseren welke ideeën hieromtrent nog meer leven in Europa en afzetten tegen de Nederlandse positie. Dit laat onverlet dat Nederland een groot belang hecht aan een tijdige en goede afronding van de onderhandelingen over de ai-verordening.’
De kern van de Nederlandse inzet is tot nu toe geweest dat definities van ‘general purpose ai-systemen’ (gpai-systemen) en ‘foundation models’ (fm’s) duidelijk moeten zijn. Die ‘foundation models’ brengen inherente risico’s met zich mee, die in de ai-verordening moeten worden geadresseerd middels verplichtingen aan de aanbieders ervan. Een ander belangrijk punt is transparantie. Ontwikkelaars die gebruikmaken van fm’s moeten voldoende informatie hebben om hier veilig op door te ontwikkelen. De regulering moet toekomstbestendig zijn en daarmee flexibel aanpasbaar aan ontwikkelingen in de markt.
Begrijpelijke reactie van de Minister. Met wat Sam Altman net voor zijn ontslag op de markt gegooid had, gaat het niet meer alleen om scriptschrijvers en acteurs. Het gaat dan om een flink percentage van wat überhaupt in een dienstverband met een computer werkt. Inclusief tienduizenden ambtenaren. Het zou me niet verbazen dat de regering en de democratische partij van Amerika hierbij betrokken waren want dit kan deze Raad van Bestuur haast niet op eigen houtje zijn aangegaan. Aanvankelijk leek het of Ilya Sutskever erachter zat, maar dat lijkt ook niet het geval te zijn.
Vrees dat een demissionair staatssecretaris pas de put dempt als het kalf al verdronken is want AI Act waarover gesproken wordt stelt dat generatieve AI, zoals ChatGPT, zou moeten voldoen aan bepaalde transparantie-eisen. En ik krijg het idee dat Sam Altman daar andere ideeën over heeft waardoor er ruzie in de tent is. Vooral interessant hierin zijn de belangen en verstrengelingen doordat een nonprofit organisatie knelt met het winstbejag wat Microsoft:
https://stratechery.com/2023/openais-misalignment-and-microsofts-gain/