Bijna de helft van de consumenten heeft vertrouwen in ai-gebaseerde interacties met organisaties. Aan de andere kant vinden meer klanten dan vroeger dat ondernemingen niet transparant genoeg zijn over de data die ze verzamelen. Dat blijkt uit een onderzoek van Capgemini.
Capgemini ondervroeg voor zijn onderzoek ruim achthonderd organisaties en 2.900 consumenten. Daarin werd gepeild naar het vertrouwen van het grote publiek in ai en de ethische kwesties die hiermee gepaard gaan. Naarmate het gebruik van ai-gedreven innovaties zoals gezichtsherkenning toeneemt, komen die ethische kwesties immers steeds meer onder de juridische en maatschappelijke loep te liggen.
Vandaag de dag zegt bijna de helft van de consumenten dat ze vertrouwen hebben in ai-gebaseerde interacties met organisaties, tegenover dertig procent in 2018. Klanten verwachten echter ook dat ai-systemen hen de resultaten duidelijk uitleggen en dat organisaties verantwoording afleggen als hun ai-algoritmen fout gaan
Meer organisaties werken ook aan het afdwingen van een ethisch handvest en het bewustzijn over ethische vooroordelen en transparantie is verbeterd. De verantwoording is echter nog steeds fragmentarisch: slechts 53 procent van de organisaties heeft een leider die verantwoordelijk is voor de ethiek van ai-systemen en slechts de helft van de organisaties heeft een vertrouwelijke manier om klanten en/of medewerkers de kans te geven ethische kwesties met ai-systemen aan de orde te stellen.
Bijna zestig procent van de organisaties heeft met juridische onderzoek te maken gekregen en 22 procent heeft in de afgelopen twee tot drie jaar te maken gehad met een negatieve reactie van klanten als gevolg van beslissingen die door hun ai-systemen zijn genomen. Bijna veertig procent van de klanten zegt ook dat ze voor een menselijke interactie zullen kiezen als ze zo een negatieve ai-ervaring meemaken. Consumenten zijn eveneens van mening dat organisaties niet genoeg doen aan een aantal belangrijke ethische kwesties: het aandeel van klanten die geloven dat organisaties volledig transparant zijn over hoe ze hun persoonlijke gegevens gebruiken, is gedaald van 76 procent in 2019 tot 62 procent nu.
Aanbevelingen
Op basis van deze bevindingen en thema’s worden in het rapport enkele belangrijke aanbevelingen voor organisaties belicht om een ethisch robuuste ai op te bouwen. Daaronder de aanbeveling om ai proactief in te zetten om duurzaamheidsdoelstellingen te behalen en de raad om de ai-ervaring zo menselijk mogelijk te maken. Tegelijk moet er ook menselijk toezicht op de ai-systemen blijven. Bovendien moet er ook absolute zekerheid zijn over de technische robuustheid van de ai-systemen. Tot slot moet aan de klanten de mogelijkheid geboden worden om de controle te behouden over hun eigen privacy wanneer ze met ai in contact komen.
Op zich zijn al deze maatregelen prima, maar in het geheel niet voldoende, zegt Capgemini. Ze moet ook gesteund worden door sterk leiderschap, goed bestuur en deugdelijke interne processen.
