Hilary Richters waarschuwt voor algoritmen die de ongelijkheid bevorderen. Het hoofd van het Deloitte Digital Ethics-team trok in haar powerpresentatie tijdens de ict-vakbeurs TBX daarvoor de vergelijking met de Netflix-serie Black Mirror. Elke aflevering, waarin wisselende personages en locaties, belicht de schaduwkant van de moderne technologie.
Onze leefomgeving wordt op veel plaatsen gedomineerd door ’zwarte spiegels’ in de vorm van een smartphone, tablet of computerscherm. Ze lijken ons leven te vergemakkelijken, maar tegelijkertijd beheersen ze de samenleving op alle fronten. Een utopie blijft een nooit haalbaar ideaalbeeld voor de toekomst. Het tegengestelde, een dystopie, een vooruitzicht vol schaduwkanten kan wel realiteit worden. In haar presentatie reikt Richters de tools aan om in het digitale tijdperk het moreel kompas te checken. ‘Laten we eerst nagaan of we nog wel bezig zijn met de dingen die echt van waarde zijn voor de samenleving.’
Aandeelhouderswaarde
Het hoofd van het Deloitte Digital Ethics-team werkte hiervoor vijftien jaar lang aan grote data-gestuurde projecten, waarbij it voornamelijk werd ingezet om de bedrijfsresultaten te verbeteren. Inmiddels heeft ze ervaren dat ook het bestuur van ondernemingen ervan overtuigd raken dat er meer is in de samenleving dan aandeelhouderswaarde. Het wordt tijd dat we de ethische dillema’s leren herkennen bij de grootschalige invoer van digitale innovaties. ”De technologie mag ons niet gaan overheersen. Natuurlijk moeten we geld verdienen, maar een bijdrage leveren aan algemeen maatschappelijk welzijn is ook belangrijk en geeft net zoveel voldoening”.
Richters’ overtuiging is dat digitale ethiek geen luxe is, maar een cruciaal fenomeen dat juist nu onze aandacht verdient. Wordt ons koopgedrag niet dagelijks beïnvloed door gepersonifieerde online promoties met als doel meer omzet te genereren ten behoeve van een bepaalde business? Of de consument daar baat bij heeft, is niet relevant. Er is heel veel data voorhanden en er zijn voldoende architecturen beschikbaar om beslissingen te beïnvloeden. Bij binnenkomst van de supermarkt leggen camera’s ons profiel vast en doen aan de hand daarvan suggesties om bepaalde artikelen te kopen. Gedetailleerde informatie over postuur, aankoopgewoonten, etniciteit, geslacht, leeftijd en medisch historie komen ook in beeld.
Tekentafel
Het determinerende effect van algoritmen die onze keuzes in positieve zin moeten beïnvloeden, zou wel eens anders kunnen uitpakken, waarschuwt Richters. Systemen die de goedkoopste producten adviseren gaan waarschijnlijk voorbij aan de voedingswaarde daarvan. Gezinnen of individuen met een lager inkomen halen geen voordeel met deze misschien goedbedoelde, maar volstrekt niet relevante koopadviezen. Bedrijven die innoverende digitale oplossingen in de markt willen zetten, doen er goed aan vooraf en tijdens de ontwikkeling en implementatie na te gaan of ze voldoen aan een reeks van ethische voorwaarden: waarom doen we het; wie wordt er beter van; zijn ze discriminerend, zou je de unieke oplossing in het acht uurjournaal kunnen presenteren; is het mogelijk dat de oplossing meer kwaad dan goed doet? Bij twijfel of negatief antwoord, ga terug naar de tekentafel, zo adviseert Richters.
Haar vragenlijst dekt alle fasen in het digitaliseringsproject. Welke data is nodig om het probleem op te lossen? Is die representatief voor de doelgroep? Is het ontwikkelteam divers genoeg van samenstelling en beschikken ze over de vaardigheden om een goed resultaat op te leveren? Wie is verantwoordelijk voor de resultaten van de oplossing?
Verder is het volgens de Deloitte ’director’ noodzakelijk in de testfase na te gaan of er geen tekenen van vooringenomenheid te bespeuren zijn in de testdata en of er gevoelige zaken en ethische dilemma’s de revue zijn gepasseerd. Hoe is daar dan mee omgesprongen en is de test voldoende accuraat? Ook bij de oplevering van de applicatie moet er ruimte zijn voor twijfel. Wat te doen bij klachten en mocht blijken dat er fouten zijn gemaakt is het ontwikkelteam bereid om daarover transparant te zijn?
Hilary Richters is ervan overtuigd dat de ethische insteek bij ingrijpende digitaliseringsprojecten uiteindelijk zal leiden tot meer vertrouwen bij de klanten en bij de aandeelhouders. Zij zullen een grotere bereidwilligheid aan de dag leggen om te investeren. Het allerbelangrijkste voor een onderneming is het niet ontstaan van reputatieschade als gevolg van een als twijfelachtig aangemerkt gedigitaliseerd bedrijfsproces.
