Een ruime meerderheid van de Tweede Kamer keert zich tegen het gebruik van discriminerende algoritmes door de overheid. Dat bleek vannacht tijdens het marathondebat over de vrijgegeven geheime ministerraadnotulen over de toeslagenaffaire.
Bij de toeslagenaffaire werden tienduizenden mensen onterecht bestempeld als fraudeur. Ambtenaren vertrouwden jarenlang op computermodellen die burgers geautomatiseerd beoordeelden. Sommige algoritmes blijken echter gevoelig voor etnisch profilering, wat discriminatie in de hand werkt.
Eind aan racisme
Tijdens het plenaire debat in de Tweede Kamer naar aanleiding van de ministerraadnotulen over deze affaire, kwamen fractieleiders Jesse Klaver (GroenLinks) en Liliane Ploumen (PvdA) met een motie die oproept zo snel mogelijk te stoppen met de inzet van dergelijke discriminerende algoritmes en op die manier een einde te maken aan racisme door de overheid. Burgers mogen niet door de overheid met wantrouwen worden behandeld en er moet altijd oog zijn voor het voorkomen van schrijnende individuele effecten van wet- en regelgeving, schrijven ze.
De motie-Klaver/Ploumen kon rekenen op een ruime meerderheid van de Tweede Kamer. Alleen PVV, FvD en JA21 stemden tegen. De Tweede Kamer had al eerder zorgen geuit over discriminatie en vooringenomenheid bij de inzet van algoritmes.
Rekenkamer en AP
Dat de overheid discriminerende algoritmes inzet, was begin dit jaar ook de conclusie van de Algemene Rekenkamer. Die constateerde dat ambtenaren zich vaak achter computermodellen verschuilen en er te weinig op letten of de modellen discrimineren.
In de zomer van 2020 oordeelde bovendien de Autoriteit Persoonsgegevens (AP) dat de werkwijze van de Belastingdienst tussen 2014 en 2018 op bepaalde onderdelen discriminerend en in strijd met de wet was. Het ging daarbij om de verwerking van data door de afdeling Toeslagen.
