Weinig bedrijven zijn volledig voorbereid op massaal gebruik van generatieve ai. Ze weten nog niet goed raad met de gevaren die aan deze technologie zijn verbonden. Wel bestaat nu enig inzicht in de vraag wat bedrijven als de grootste risico’s zien.
McKinsey, Insight/Harris Poll, Dataiku/Databricks en Accenture publiceerden onlangs de resultaten van internationale onderzoeken onder managers over de adoptie van ai. Ook de keerzijden van deze technologie kwamen daarbij aan de orde.
Uit de McKinsey-enquête blijkt dat bedrijven met name bezorgd zijn over de onnauwkeurigheid bij generatieve ai. Ai kan de plank volledig misslaan. Soms rollen er rare resultaten uit. 56 procent acht dit risico relevant, terwijl 32 procent hier iets aan probeert te doen. Volgens het Accenture-onderzoek heeft 43 procent van de topmanagers gebrek aan vertrouwen in de uitkomsten van generative ai in hun top-3 van risico’s staan.
Het McKinsey-onderzoek leert dat ook de cybersecurity een extra punt van zorg (53 procent) is, nu ai opkomt. Relatief vaak worden daar maatregelen (38 procent) voor genomen. Andere veelgenoemde risico’s zijn schending van intellectueel eigendomsrecht, problemen met de regelgeving, uitlegbaarheid en privacy.
Volgens McKinsey zijn bedrijven zich over het algemeen best wel bewust van de gevaren. Maar het is nog een hele uitdaging deze risico’s te beteugelen. Iets meer dan twintig procent heeft hiervoor beleidsmaatregelen genomen. Meestal gaat het dan om de bescherming van vertrouwelijke informatie in het eigen bedrijf. Maar vaak wordt toch nog te nauw gekeken naar de risico’s. De gevaren strekken zich over een breed vlak uit. Denk aan maatschappelijke, humanitaire en milieu-risico’s.
Meer regulering
Uit het onderzoek van de softwarebedrijven Dataiku/Databricks blijkt dat meer dan de helft van de respondenten meer regulering wenst. Voor de ai-pioniers die als eersten met ai ervaring hebben opgedaan, dringen hierop aan. 55 procent is meer bezorgd dan enthousiast over de toekomst van ai. De opkomst van generatieve ai brengt onzekerheid met zich mee. Strengere regels en steviger bedrijfsbeleid voor ‘responsible ai’ zijn nodig.
Ict-dienstverlener Insight liet onderzoeken welke zorgen leven rond de implementatie van generative ai. Vooral de veiligheid houdt bestuurders wakker. Het grootste gevaar zit in externe ai-gegenereerde content. Denk aan misinformatie, deep fakes en phishing-zwendel. Niet alleen de eigen werknemers maar ook bijvoorbeeld werknemers en investeerders kunnen daar het slachtoffer van worden.
Bijna evenveel zorg baren hackers die interne generatieve ai-oplossingen infiltreren om toegang te krijgen tot bedrijfsdata en intellectueel eigendom. Leiders zijn zich ook bewust van de risico’s van binnen de organisatie, zoals een onbedoeld datalek als gevolg van onbedoelde fouten van werknemers.
Ruim driekwart (77 procent) van de Nederlandse leidinggevenden die aan het onderzoek deelnamen, zegt dat hun bedrijf al interne generatieve ai-beleidslijnen heeft vastgesteld of momenteel ontwikkelt. Zo’n beleid beschrijft hoe een organisatie generative ai op een verantwoorde en veilige manier zal gebruiken.
Generatieve ai
Generatieve ai is een vorm van kunstmatige intelligentie waarmee iemand automatisch teksten, afbeeldingen, audio en andere content kan genereren. Er zijn steeds meer programma’s en online tools die gebruikmaken van deze vorm van kunstmatige intelligentie.
Wie aan zo’n tool een goede opdracht geeft, krijgt meestal een bruikbaar en vaak verrassend goed resultaat.
Bron: Kennisnet
Het is maar goed dat nog weinig bedrijven goed (!) zijn voorbereid. AI verkeert immers nog in een ‘zuigelingenstatus’ en daar al te veel voorbereiding op te doen, lijkt mij ook niet zo wijs.
Natuurlijk is het goed als enkele deskundigen, die kennis hebben van kennissystemen, statistiek en digitalisering actief volgen wat daar gebeurt. Maar dan moet je wel die deskundigheid in huis hebben. Anders is het niet meer dan leuk spelen met de computer die als een game de mooiste verhalen componeert op al je vragen en opdrachten.
Natuurlijk zijn er ‘niches’ waar zo’n slim statistisch systeem ondersteunend kan zijn en dom tekstwerk kan overnemen van de ‘bullshit jobs’ van het schrijven verplichte zinloze teksten. In zo’n geval: gebruik het direct! Maar laat je als organisatie niet gek maken met deze wat overtrokken hype . . .
https://hanstimmerman.me/ai-is-voorlopig-niet-meer-dan-toegepaste-statistiek/
Als ik adviesrapport in een zin lees met McKinsey of Accenture, dan weet ik al dat het rapport exact het tegenoverstelde is van de realiteit. Laatst las ik ook nog een mooi rapport van Accenture over de metaverse. https://www.accenture.com/_acnmedia/Thought-Leadership-Assets/PDF-5/Accenture-Meet-Me-in-the-Metaverse-Full-Report.pdf
Alle machies… ze schrijven net alsof er zoiets als een metaverse is.
Maar Hans als ik jouw stuk lees merk ik dat ik aan het andere eind van het spectrum zit. Je schrijft; “Kort gezegd kun je stellen dat de huidige AI systemen niet meer zijn dan ‘technisch slim toegepaste statistiek‘. ”
Dat zelfde kan ik dan over mensen zeggen, hun intelligentie is niets anders dan slim toegepaste statistiek.
Leuke gelijkenis; als ik aan jou vraag wat de laatste woord van je antwoord naar mij zal zijn, dan weet je dat ook pas als je de zinnen aan het formuleren bent. Voila, een direct bewijs dat er een overeenkomst is tussen generatieve AI en de de werking van de mens.
Heeft een LLM gevoelens of bewustzijn? Volgens mij niet. Kent het werkelijk de consequenties in de realiteit? Absoluut niet. Maar voor iets wat vrij eenvoudige de Turing test doorstaat zou ik voorzichtig zijn met “niet meer dan” uitspraken.
Generatieve AI is een beetje als LK99… er lijkt wel iets te zitten, maar het is nog onzeker wat het betekent. Terwijl de realiteit is dat ALS er wat zit dit enorme impact heeft op de wereld de komende twintig jaar. Ik twijfel niet over AI en wat het gaat brengen, maar zoals vaker gezegd, men overschat de korte termijn, men onderschat de lange termijn van een doorbraak. AI kan nu zeker geen dagelijkse problemen oplossen die ik op moet lossen, maar de snelheid van iteraties is ongekend.
En AI leent zich voor zoveel dingen. van robots en virtuele assistenten als perfecte taal leraren, prive docenten, tekst schrijvers als programmeurs die ineens superproductief worden.
Maar goed. Dat is mijn inzicht.