Landsadvocaat Pels Rijcken en de Autoriteit Persoonsgegevens (AP) maken bezwaar tegen vrij beschikbare software als ChatGPT. Daarmee is een breed verbod op het gebruik van generatieve-ai-software door rijksambtenaren een stuk dichterbij gekomen.
Volgens de Volkskrant wil staatssecretaris Alexandra van Huffelen (Digitale Zaken) rijksambtenaren voorlopig het gebruik ontzeggen van bepaalde chatbots en ai-software waarmee afbeeldingen zijn te maken. Het ochtendblad leidt dit af uit een conceptvoorstel waarop het de hand heeft weten te leggen. De woordvoerder van de staatssecretaris onthoudt zich van commentaar. Wel bevestigt hij dat Van Huffelen zich beraadt op een standpunt hierover. Aan de Tweede Kamer is toegezegd voor het eind van dit jaar met een visie op generatieve ai te komen.
De staatssecretaris kan moeilijk heen om eerder genoemd onderzoek van de landsadvocaat en de AP. Die concluderen dat vrij beschikbare gen-ai zoals ChatGPT waarvoor de rijksoverheid geen contract heeft afgesloten, doorgaans niet aantoonbaar voldoet aan de nationale privacywetgeving.
Ook auteursrechtelijk zijn er bezwaren. Van Huffelen zegt in het conceptvoorstel eraan te twijfelen of OpenAI, Google en andere aanbieders van deze software de rechten van auteurs voldoende respecteren. De grote taalmodellen zijn massaal immers getraind met teksten waarop veelal auteursrechten berusten. Juridisch liggen er nogal wat beren op de weg, zo waarschuwen Pels Rijcken en het AP. Mocht het inderdaad tot een verbod komen, dan geldt dit niet alleen voor overheidsdiensten maar ook voor hun leveranciers.
Van Huffelen is in principe niet tegen het gebruik van generatieve ai binnen de rijksoverheid, maar wil harde garanties voor privacy en veiligheid.
Lijkt me verstandig dat ze dan ook eens allerlei ingehuurde consultants en hun inbreng op dat soort zaken gaan toetsen. En de ambtenaren zelf? Doen die dat soort dingen altijd alleen uit onwetendheid? BingChat doet aan bronvermelding en is dus grotendeels niet meer dan een krachtige versnelhulp bij zoeken. Met een auto kun je trouwens ernstig letsel toebrengen als ambtenaar. Maar het kind met het badwater weggooien is inderdaad de veiligste oplossing. Niemand gaat je aansprakelijk houden voor iets dat je verboden hebt. Totdat het niet langer meer valt vol te houden natuurlijk. Net als met de acceptatie en rechtsgeldigheid van fax, email, whatsapp en zo.
Als ambtenaren met generatieve AI het bewijs uit het ongerijmde kunnen maken dan schudt de rechtsstaat op haar grondvesten, jurdische beren op de weg aangaande onweerlegbaarheid van het bewijs bleek namelijk al meerdere keren discutabel met ernstige rechterlijke dwalingen tot gevolg.
Gelukkig is Van Huffelen in principe niet tegen generatieve AI maar AI kan in Amerikaans recht juist ook beschermen tegen auteursrechtelijke claims. IBM dacht pc-clonen van de markt te kunnen houden met auteursrechtelijke bescherming van de BIOS. Als bijvoorbeeld Phoenix een compatible bios ontwikkelde, mocht de developer geen enkele inzage in de code of documentatie gehad hebben en alles op functioneel input/output-niveau door derden uitgelegd gekregen hebben. Op die manier konden ze altijd aantonen dat eventuele gelijkenis van assembly-code uitsluitend op toeval of onontkoombaarheid kon berusten. AI kan die tussenrol prima vertolken.
Het blijft een onzinnig vraagstuk. Ambtenaren hoeven toch ook niet aan te tonen dat ze op geen enkele wijze kennis van zaken opgedaan hebben met auteursrechtelijk materiaal? De grapjes dat dat sowieso wel duidelijk is of dat ze in dat geval snel vertrokken zijn, liggen natuurlijk voor de hand maar ik heb er nog nooit een instantie garanties over hebben willen krijgen. Er is kennelijk wat onbegrip over wat we in ieder geval wel weten over hoe een LLM eigenlijk werkt.
Ter aanvulling, bij de kopieermachine had de overheid aanvankelijk heel wat minder scrupules. Daar ging iedere overheidsdienaar – zelfs in het onderwijs – ongelooflijk ongegeneerd mee tekeer.
IBM PC-compatibele markt die ontstond met de Phoenix BIOS legde Microsoft geen windeieren. Het gebruik van reversed engineering vergroot dan ook de interoperabiliteit zonder inbreuk te maken op het intellectuele eigendom. Hetzelfde geldt voor open source alternatieven en misschien dat AI hierin de rol van intermediar kan spelen want hoewel de code leesbaar is, leest net als de handleiding niemand deze.
Het bezwaar van landsadvocaat en toezichthouder gaat niet om een verbod op het gebruik van generatieve AI maar om terughoudendheid in het gebruik van niet-gecontracteerde AI-toepassingen doordat je in verantwoordingsverplichting dan niet aan de eisen van de transparantie kunt voldoen. Beetje als met open source als het om de onderhoudsverplichtingen gaat want als je niet weet wat of wie er achter het loket zit in de toeleveringsketen dan spreken we over een black box.
In het kader van een ethisch gebruik van geautomatiseerde systemen zorgt dit al enige tijd voor een maatschappelijke discussie. En er wordt daarom steeds meer nadruk gelegd op het ontwikkelen van methoden om transparantie en uitlegbaarheid van algoritmen te vergroten. Deze kun je net als assembly code auteursrechtelijk beschermen maar dat dient volgens Marx de belangen van de heersende klasse die de economische macht in handen heeft. Aangaande het trainen van Large Language Models (LLM) op basis van een witte academische mening gaat de status quo van hetzelfde rondje om de kerk niet om het monopliseren van de boekdrukkunst in de verspreiding van ideeën zoals ik een decennia geleden hier al eens schreef.
Dit platform is de kopieermachine voor de verspreiding van ideeën waarbij redactie een waarschuwing boven de externe inbreng van de content marketing zet. Behalve bij stand-up comedians terwijl de tijd leert dat hun stemmingmakerij om abjecte leugens gaat want de hoofdredacteur gooit niks weg voor de archivering. De expressie van een mening valt niet onder het auteursrecht maar wel onder de AVG welke trouwens ook de archieven geldt. Vul zelf maar de risico’s in van niet weten wie of wat erachter het loket zit en wat er gedaan wordt met de informatie die je geeft.