Ai-gebruik is ingeburgerd, maar ai-governance blijft vaak nog achterwege. Volgens onderzoeksbureau Barc heeft 97 procent van de ondervraagde organisaties minstens één ai-toepassing in productie. Opvallend: twee derde kreeg de afgelopen twaalf maanden met een ai-gerelateerd incident te maken.
De cijfers staan in ‘The State of Data and AI Governance’, een wereldwijd onderzoek van Barc onder 234 data-, ai-, it- en businessleiders. Barc is een onderzoeksbureau met focus op data en ai, ook wel omschreven als een ‘Gartner voor data’.
Gebrek aan governance kan de nodige gevolgen hebben, aldus Kevin Petrie, vice-president research bij Barc US. Als mogelijk meest schadelijke gevolg noemt 44 procent verlies van klantvertrouwen en reputatie. Boetes of sancties volgen met 40 procent, directe financiële verliezen met 37 procent.
‘Deze bevindingen laten zien waarom governance nu afdwingbare controles vereist over data, modellen, applicaties, agents en infrastructuur’, stelt Kevin Petrie van Barc.
Menselijk toezicht blijft alvast nodig: 59 procent eist goedkeuring van een mens voor gevoelige acties van ai-agents.
Op datalaag is de basis redelijk op orde: 58 procent beheert datakwaliteit en 62 procent past governancecontroles toe. ‘Maar de meeste ai-adopters slagen er niet in modellen en agents goed te beheren’, stelt Petrie. Slechts 26 procent gebruikt monitoring en observability voor modellen, 23 procent heeft modelregisters of inventarissen, 20 procent een speciaal ai-governanceplatform en 10 procent een oplossing voor agentgovernance.
Wat koplopers anders doen
Barc rekent 29 procent van de respondenten tot de ‘ai leaders’, tegenover 20 procent begin 2024. Dat zijn organisaties met een volwassen ai-programma op zeven dimensies, waaronder security, leiderschap op directieniveau en projecttoezicht. Zij melden in de meeste categorieën minder incidenten en gebruiken vaker ai-specifieke governancetechnologie.
Barc ziet in hun voortgang vier prioriteiten: duidelijke verantwoordelijkheid voor ai-risico’s, controles over de hele keten, continue monitoring en governance van de ongestructureerde informatie die genai-toepassingen en agents als context gebruiken.
Waarschuwen voor overmoed
De incidenten zijn zelfgerapporteerd. Volgens Barc melden it-respondenten bij verschillende incidenttypen meer problemen dan businessrespondenten, die volgens het onderzoeksbureau onbewust kunnen bijdragen aan ai-fouten.
Barc waarschuwt ook voor overmoed: 60 procent van de respondenten vindt de eigen governance beter dan die van sectorgenoten, terwijl 29 procent als ai-voorloper of leader geldt.
De kwaliteit van de content holt achteruit want zelfs AI kan er geen chocolade van maken. De hallucinatie van Gartner voor data lijkt me een te grote broek als je wereldwijde onderzoek uiteindelijk maar 234 respondenten kent. Eerste alinea is nietszeggend en de opvolgende alinea’s brengen ook geen verbetering. Open deur over gebrek aan governance kan om AI of slecht management gaan, een laissez faire model van toezicht gaat nu eenmaal om het opportunisme van wonderen verkopen als we kijken naar de overmoed.
Sommigen proberen de valsheidsscore van een AI model te verkopen, de architectuur van een betekenis die eigenlijk om gebakken lucht gaat als we kijken naar alle fouten die mensen maken. Journalistieke fout is dat er niet gekeken is naar een sponsoring voor het onderzoek want wij van WC-eend, adviseren WC-eend lijkt de roep om meer governance vooral om het verkopen van een oplossing te gaan. Never waste a good crisis in de probleemstelling wijs ik op human intelligence ook al is zelf blijven nadenken vermoeiend.
Een waardevol artikel, omdat het overtuigend laat zien dat de adoptie van AI veel sneller gaat dan de governance ervan. Toch denk ik dat hier een fundamenteler architectuurprobleem onder ligt.
De vraag is niet alleen hoe we AI kunnen controleren, maar vooral: wat moeten we inhoudelijk controleren? Een model, agent of applicatie kan technisch uitstekend worden gemonitord, terwijl doelen, beslissingen en domeinbegrippen nog steeds impliciet verborgen zitten in prompts, code, workflows en orkestratie.
Dat probleem is bovendien niet nieuw en ook niet uitsluitend een AI-probleem. Ook deterministische bedrijfstechnologie is een interpretatiesysteem. Zonder expliciete betekenisarchitectuur ontstaat daar flow- en regels-spaghetti; bij indeterministische GenAI ontstaan eerder hallucinaties en onvoorspelbaarheid.
Daarom zie ik naast AI-governance een fundamentelere opgave: betekenis-gedreven architectuur (ontologie). Maak domeinbegrippen, doelen en beslissingen expliciet en toetsbaar via een gedeelde betekenislaag. Dan verschuift controle van technische coördinatie naar inhoudelijke transparantie.
AI-governance is daarmee noodzakelijk, maar zonder betekenisarchitectuur dreigt het vooral governance boven op een architectuurprobleem te worden.