De integratie van generatieve ai (gen-ai) in bedrijfsomgevingen brengt nieuwe cybersecurity-uitdagingen met zich mee. Dat stelt de cto van beveiliger Sophos vast. ‘We hebben machines niet leren denken.’
Hoewel 65 procent van de organisaties gen-ai heeft geïmplementeerd, uit 89 procent van de it-leiders zijn bezorgdheid over mogelijke beveiligingsrisico’s door tekortkomingen in gen-ai-tools, blijkt uit het onderzoek ‘Beyond the Hype: The Businesses Reality of AI for Cybersecurity’, waarvoor vierhonderd it-leiders (uit organisaties van vijftig tot drieduizend werknemers wereldwijd) werden ondervraagd. De studie toont aan dat 98 procent van de organisaties ai heeft geïntegreerd in hun cybersecurity-infrastructuur. Tegelijkertijd waarschuwt 87 procent voor een mogelijk gebrek aan verantwoordelijkheid voor cyberbeveiliging door overmatig vertrouwen in ai.
Chester Wisniewski, director en global field cto bij Sophos, benadrukt het belang van menselijk toezicht: ‘We hebben machines niet leren denken, maar simpelweg de context gegeven om de verwerking van enorme hoeveelheden data te versnellen. Zoals met veel andere dingen in het leven moet ook voor gen-ai-tools gelden: vertrouw maar verifieer.’
En dat verifiëren gebeurt dus door een menselijke check. ‘Het potentieel van deze ai-tools om securityworkloads te versnellen is verbazingwekkend, maar de context en het begrip van hun menselijke toezichthouders is nog steeds nodig om dit voordeel te realiseren.’ Ook de financiële impact van gen-ai blijft een punt van zorg: 75 procent van de it-leiders vindt het moeilijk om de kosten te kwantificeren. Wel verwacht 87 procent dat de uiteindelijke besparingen door gen-ai de initiële investeringen zullen compenseren.
Een heel goed artikel, Chapeau William.
Net als bij denkbare data, heb je basaal twee stromen. Zelf gegenereerde data, lees, zakelijke en corporate data, en publieke data. We weten dat corporate en zakelijke data een stuk preciezer is dan publieke data. Immers, zakelijk heb je niet zoveel aan gecorrumpeerde data, dat wordt al een stuk anders dan wat je naar buiten toe wil uitdragen corporate gesproken. Dan heb je te maken met aanzien, governance en stakeholders zoals aandeelhouders en potentiële investeerders.
Bij publieks data, lees, van overal en nergems afkomstig, is het alweer een heel ander verhaal. Zeg maar rustig dat 50% van die data corrupt is, waarbij je je af moet vragen of data en feiten wel kloppen. Een deel van de overige potentële data kunnen feiten vrij eenvoudig worden geverifieerd, of men kan zelf op de vingers natellen of gepubliceerde cijfers al of niet correct zijn.
Artificial Intelligence (AI)
Is allerminst intelligent. Het is niets meer dan geprogrammeerde software die ingezet wordt met een bepaald oogmerk. Dat commercie vooral en graag roeptoetert dat AI de wereld zal veranderen, is een gegeven. Dat val allemaal nog best wel mee.
Potentie
De potentie en de gedachte achter AI’s, daar kun je zeker iets mee. De potentie is enorm maar daar zitten wel kanttekeningen aan. Kanttekeningen die door heel veel commercie onbenoemd wordt gelaten en daarom alleen al is een waarschuwing wel degelijk op zijn plaats. Als je namelijk denkt dat een AI ‘het’ wel voor je zal beantwoorden of oplossen, weet dan dat je al heel snel tegen de negatieve gevolgen aan zal lopen.
Want AI is niet iets wat jouw wereld, wel eventjes zal verbeteren. Dat is ongeveer net zoiets als Mark Rutte zijn visie en uitspraken op zijn ogen geloven. De miljardenschade die hij hiermee de Nederlandse samenleving heeft toegebracht zal nog tot in lengte van jaren voelbaar zijn in de samenleving. En zo is het ook met AI’s.
Het is maar dat je het weet….