Privacy-waakhond Autoriteit Persoonsgegevens (AP) heeft er een nieuwe taak bij. Ze hadden blijkbaar nog wat tijd over. Ze mogen nu voortaan ook algoritmes bij organisaties beoordelen of deze discrimineren of niet.
Dit is natuurlijk nogal gek, want het is eigenlijk gewoon de taak van een algoritme om te discrimineren. Het algoritme bepaalt of je een eentje bent of een nul. Het is net de Toto, alleen dan iets minder willekeurig.
Parlementaire enquête
Maar de overheid vindt dat het uit de klauwen loopt en gaat daarom extra geld uitgeven voor extra toezicht. Dit is trouwens altijd de oplossing van de overheid. Als er een probleem is komt er eerst een onderzoek, daar komt dan uit dat er meer toezicht moet komen en achteraf komt er uiteraard een parlementaire enquête waarom het toezicht heeft gefaald.
Maar het lijkt me wel lastig om toezicht te houden op algoritmes. Je kunt moeilijk alle algoritmes in de gaten houden. Je zult dus een keuze moeten maken; die wel en die niet. Hoe bepaal je die keuze? Ga je daar ook een algoritme voor ontwikkelen? Misschien dat de mensen van Google of Facebook daar bij kunnen helpen. Zij hebben nogal wat ervaring met algoritmes. Sterker nog, het is hun businessmodel. Zonder die algoritmes kunnen ze de advertenties niet aan de juiste bubbel tonen. Google en Facebook discrimineren overigens niet. Ongeacht afkomst of huidskleur, ze jatten persoonsgegevens van iedereen.
Toeslagenschandaal
Voorzitter Aleid Wolfsen van de privacy-waakhond meldde al vol trots dat de eerste boete eigenlijk al is uitgedeeld. Hij verwees daarbij naar de Belastingdienst. Zij kreeg vanwege het toeslagenschandaal eind 2021 een boete van 2,75 miljoen euro opgelegd. Wolfsen vertelde er alleen niet bij door wie die boete kon worden opgehoest. Deze moet natuurlijk betaald worden door de belastingbetalers zelf. Of zoals het algoritme van de Belastingdienst deze mensen noemt: de nulletjes.
Wat ik erg jammer vind, is dat men in de media helemaal nooit benoemt dat een algoritme meestal volkomen fout, of eigenlijk onvolledig wordt geïmplementeerd! Een algoritme, zoals bij diensten als de Belastingdienst, kan zich natuurlijk razendsnel door een heleboel data heen worstelen, wat heel fijn is! Het kan, op basis van doordachte relevante regels (parameters) die hiervoor zijn ingevoerd en die het algoritme moeten sturen, een conclusie trekken, maar mag deze conclusie slechts als advies presenteren aan verantwoordelijke medewerkers die getraind zijn om daar vervolgens wel of niet iets mee te doen. De eindbeslissing mag nooit zonder meer bij het algoritme liggen; daar moeten mensen aan te pas komen die hun beslissing weten uit te leggen. Het discriminerende binnen het algoritme wordt bepaald door wat men in de regels stopt. Het algoritme voert slechts uit, de mensen discrimineren!
@Martijn
Wat is er makkelijker dan het algoritme de schuld te geven? Dan hoeft er geen ambtenaar te worden ontslagen omdat deze (m/v/x) aantoonbaar discrimineert…
Zeker Frank maar laten we dan ook niet vergeten dat er veelal politieke druk op zit omdat we fraude maatschappelijk verwerpelijk vinden. Kan me de fraude met toeslagen door Bulgaren nog herinneren, de ambtenaren wisten ervan en signaleerden Den Haag maar daar werd niks gedaan. En misschien daarom eerst iets doen aan de positie van klokkenluiders voordat we ons op de algoritmen gaan werpen?
Falende toezichthouders zijn tenslotte veelal het gevolg van het feit dat je politiek je eigen glazen ingooit als je de vuile was buiten gaat hangen. De baantjesmachine is bestuurlijk dan ook nogal incestueus, je kunt de politicus wel uit de politiek halen maar de politiek niet uit de politicus.