OPINIE – ‘Revolutionair zijn de mogelijkheden die generatieve kunstmatige intelligentie (ai) in de zorg heeft’, zo valt te lezen in het regeerakkoord. Maar door te vertrouwen op de beloften van ai-bedrijven, komt er juist geen werkelijke verandering in de zorg. Het is hoog tijd om minder naïef te zijn over artificiële intelligentie.
De zorgsector komt in 2033 zo’n 200.000 medewerkers tekort. Verpleegkundigen en verzorgenden zijn zo’n dertig tot veertig procent van hun werktijd kwijt aan administratie. Generatieve ai is daar een oplossing voor en kan dus het personeelstekort oplossen, zo redeneert het kabinet. ‘Het verlagen van de administratietijd is een verantwoordelijkheid van ons allemaal. Generatieve kunstmatige intelligentie kan ook hier een revolutie veroorzaken. Als we de administratietijd weten te halveren naar zo’n twintig procent van de werktijd, zijn we er voor de komende jaren al’, aldus Fleur Agema, minister van Volksgezondheid, Welzijn en Sport (VWS), doelend op het personeelstekort, schreef Computable in de aanloop naar Prinsjesdag.
Ai kan inderdaad helpen om administratie sneller weg te werken, brieven en verslagen automatisch te laten schrijven of gesprekken samen te laten vatten door een computersysteem. Wil het kabinet daarvan profiteren, dan levert dat de komende jaren extra kosten op. Data moeten soms zo ‘gekneed worden’ dat algoritmes er iets van begrijpen. Dat kneden houdt in dat gegevens met elkaar overeen moeten komen, zodat er analyses op los te laten zijn. Ook moet personeel opgeleid worden om met ai te leren werken. It-systemen moeten veilig en volgens wetgeving functioneren. Ai levert op korte termijn in elk geval geen kostenbesparing op, maar vergt een investering.
Hype
Daarbij is het de vraag of ai op de lange termijn de optimale oplossing is. Het probleem is dat ai een hype is. Veel gemeenten weten bijvoorbeeld nog niet precies welk probleem ai voor ze kan oplossen, maar wel dát ze ai willen inzetten. Daardoor overschaduwt ai alternatieve oplossingen, ook als die beter zijn. De grootste effectiviteitswinst wordt in de zorg namelijk niet behaald door een formulier in te laten vullen met behulp van ai. Het effectiefst is om formulieren niet meer in te vullen. De SP stelde bijvoorbeeld een formulierenbrigade voor, die met een stofkam door alle formulieren heengaat.
Het kabinet noemt tijdrovend administratief werk een voornaam probleem, maar vergeet waarom die administratie er überhaupt is: omdat men uitgaat van controle in plaats van vertrouwen. De combinatie van overheid, ai en wantrouwen roept herinneringen op aan de Toeslagenaffaire. Tien jaar geleden accepteerde de Tweede Kamer niet dat Bulgaren fraudeerden met kindertoeslagen, dus werd er een strenge controle ingesteld – door middel van ai. De 805 frauderende Bulgaren kostten de schatkist vier miljoen euro per jaar, zo becijferde onderzoeksjournalist Jesse Frederik in zijn reconstructie ‘Zo hadden we het niet bedoeld’. Dat is nog geen 0,006 procent van het complete toeslagenbudget. De strengere controle resulteerde in ongekend leed bij onschuldige burgers en zo’n negen miljard euro aan compensaties voor gedupeerden. In politiek Den Haag geldt dat controleren beter is dan vertrouwen, maar de praktijk bewijst dat vertrouwen lucratiever is.
Weinig kritisch
Als Agema het heeft over de ‘revolutionaire mogelijkheden van ai’ lijkt ze weinig kritisch op de beloften van Big Tech. Terwijl deze bedrijven ons opzadelden met online-nepnieuws, het Cambridge Analytica-schandaal, privacy-schendingen en polarisatie. Als we de afgelopen twintig jaar iets hebben geleerd is het dat we kritischer moeten zijn op de bedrijven die ons nu warm maken voor ai. Daarbij is het ironisch dat een regering die het buitenland met argusogen bekijkt zich zo gewillig uitlevert aan Amerikaanse techbedrijven.
Laten we hopen dat Agema ai wil inzetten om de administratieve last terug te dringen én haar positie als zorgminister gebruikt om het systeem op de schop te nemen. Door regeldruk te verminderen, marktwerking tegen te gaan, private equity de deur te wijzen – eigenlijk alles waar Kamerlid Agema zich voor inzette. Dat vraagt om het inzicht dat ai slechts een handige tool is en geen wondermiddel. Agema verkeert als minister van VWS in de unieke positie dat ze structurele veranderingen in de zorg kan doorvoeren. Tot dusver lijkt haar meest revolutionaire verandering dat onnodige administratie wordt afgehandeld door ai. Zo bewijst ai zich wederom als hype die alternatieve oplossingen overschaduwt, ook als deze beter, goedkoper of simpeler zijn. Een gemiste kans.
Aaron Mirck is ai-expert, keynote spreker over technologie, en auteur.
Recensie
Lees hier de recensie van het boek ‘AI, voorbij de hype’ van Aaron Mirck.
ChatGPT is het met me eens dat digitaal optimisme zonder diepgaande kennis leidt tot een digitaal opportunisme die wordt gedreven door hypes. Optimisme zonder begrip leidt namelijk tot het klakkeloos omarmen van nieuwe technologieën of trends zonder deze eerst kritisch te evalueren op hun werkelijke waarde of impact. Hierdoor ontstaat de neiging om elke nieuwe digitale innovatie of hype als een wondermiddel te beschouwen, wat kan resulteren in:
1. Overhype en desillusie Wanneer de verwachtingen niet worden ingelost.
2. Gebrek aan duurzaamheid als er geen rekening gehouden wordt met lange termijn.
3. Verlies van focus op echte waarde doordat het middel heilig verklaard wordt
Gartner plot generatieve AI daarom al op de glijbaan van desillusie van hun Hype Cycle van Gartner. Generatieve AI biedt namelijk wel kansen maar geen wonderen want als we minder administratie willen dan kan dat ook anders geregeld worden. Want als de minister van Volksgezondheid, Welzijn en Sport, net als één van haar voorganger, achter een hype aanhollend het medische geheim wil offeren dan hoor ik de roep al of we meer of minder privacy willen.
De formulierenbrigade van de SP heeft een punt wat betreft de administratieve bevrediging van systemen voor met name de zorgverzekeraars die ongetwijfeld AI in zullen zetten om op de stoel van de behandelaar te kunnen gaan zitten. Hierdoor heeft Nederland het duurste zorgstelsel van Europa. Eén van de redenen die ChatGPT hiervoor geeft is het verzekeringsstelsel met een overmatige administratieve regeldruk waardoor het meer of minder om een politiek standpunt gaat.
Oudlid, het is even doorvragen, maar dan heb je ook wat 🙂
https://www.perplexity.ai/search/klopt-de-analyse-die-je-kunt-v-L12PUZ0GQTSgEwxiaV1UfA
Wat ik nog mis in het verhaal is complexiteitsreductie:
1. van wetgeving en
2. van technologie waarmee deze wetgeving moet worden uitgevoerd.
Zijn niet veel formulieren in de zorg nog het gevolg van gegevens die moeten worden overgenomen uit andere systemen en/of silos?