Het ethisch gebruik van kunstmatige intelligentie (ai) is van fundamenteel belang om loyaliteit en vertrouwen van consumenten, werknemers en burgers in ai te verkrijgen. Ze zijn loyaler en kopen meer van organisaties waarvan de ai-interacties als ethisch worden beschouwd.
Dit blijkt uit een studie van het Capgemini Research Institute. Wereldwijd zegt 62 procent van de ondervraagde consumenten (in Nederland 52 procent) meer vertrouwen te hebben in een bedrijf waarvan de ai-interacties door hen als ethisch worden ervaren; 61 procent geeft aan dat dat ze positieve ervaringen met vrienden en familie zullen delen (Nederland: 50 procent), 59 procent stelt dat ze meer loyaliteit aan het bedrijf zullen hebben (Nederland: 43 procent) en 55 procent zegt dat ze meer producten zullen kopen en hoge ratings en positieve feedback op sociale media zullen geven; in Nederland is dit 44 procent.
Wanneer de ai-interacties van consumenten daarentegen leiden tot ethische kwesties, vormt dit een bedreiging voor zowel de reputatie als de omzet: 41 procent zei dat ze een klacht zullen indienen als een ai-interactie tot ethische kwesties zou leiden (Nederland: 40 procent), 36 procent zou een verklaring eisen (Nederland: 32 procent) en 34 procent zou stoppen met de interactie met het bedrijf (Nederland: 29 procent).
Patiëntgegevens
Uit het onderzoek blijkt dat leidinggevenden in negen van de tien organisaties ethische kwesties signaleren die het gevolg zijn van ai-systemen. Het gaat bijvoorbeeld om het verzamelen van persoonlijke patiëntgegevens zonder toestemming in de zorg en het overdreven vertrouwen op geautomatiseerde beslissingen in het bank- en verzekeringswezen. Volgens de managers gaat het mis, doordat er druk is om ai haastig in te voeren, ethiek niet meegenomen wordt bij het bouwen van ai-systemen, en een gebrek aan middelen gericht op ethische ai-systemen.
Net iets meer dan de helft van de leidinggevenden vindt dit een kwalijke zaken en geeft aan dat ze het belangrijk vinden om ervoor te zorgen dat ai-systemen ethisch en transparant zijn. Organisaties ondernemen ook concrete acties wanneer ethische kwesties aan de orde worden gesteld. Uit het onderzoek blijkt dat 41 procent van de topmanagers aangeeft een ai-systeem volledig te hebben opgegeven toen een ethische kwestie aan de orde werd gesteld.
Regelgeving
Consumenten, werknemers en burgers geven aan dat ze behoefte hebben aan regelgeving rondom kunstmatige intelligentie. Bijna de helft van de respondenten (47 procent) gelooft namelijk dat ze ten minste twee soorten gebruik van ai hebben ervaren die tot ethische problemen hebben geleid. In Nederland ligt dit percentage iets lager (42 procent).
Driekwart van de respondenten zegt meer transparantie te willen wanneer een dienst wordt aangedreven door ai, en dat ze willen weten of ai hen eerlijk behandelt. Iets meer dan driekwart van de consumenten vindt dat er verdere regelgeving moet komen over de manier waarop bedrijven ai inzetten.
Over het onderzoek
Het onderzoek omvatte meer dan 1.580 kaderleden van grote organisaties (met meer dan een miljard dollar aan jaarinkomsten) uit tien landen (China, Frankrijk, Duitsland, India, Italië, Nederland, Spanje, Spanje, Zweden, VK en VS). Daarnaast werd een consumentenonderzoek uitgevoerd onder 4.400 consumenten uit zes landen (VS, China, VK, Frankrijk, Duitsland en Nederland), die in het verleden allemaal een of andere vorm van ai-interactie hebben gehad.
