Er is een keurmerk in de maak voor correct gebruik van algoritmes. Het zou partners en klanten helpen te beoordelen of de ontwikkeling en het gebruik van die algoritmes kloppen. En dat algoritmes juist zijn geprogrammeerd en bijvoorbeeld niet discrimineren of een potje maken van privacy.
Organisatieadviesbureau Verdonck, Klooster & Associates (VKA) en data science-bureau Totta data lab lanceren een keurmerk voor de ontwikkeling en het gebruik van algoritmes. VKA is een organisatieadviesbureau dat ervaring heeft met audits, privacyvraagstukken en datagedreven werken. Data science-bureau Totta data lab ontwikkelt zelf algoritmes, onder andere voor opsporing van bijstandsfraude. De bedrijven claimen de eerste in Nederland te zijn met een keurmerk voor algoritmes.
‘Het gebruik van algoritmes, wiskundige modellen die worden ingezet voor patroonherkenning, maakt besluitvorming efficiënter en effectiever. Algoritmes ontstijgen eenvoudige beslisregels die voor mensen nog te begrijpen zijn. Maar, als algoritmes zo complex zijn, hoe weet je dan of het algoritme doet wat het moet doen?’, schrijven de bedrijven in een gezamenlijk persbericht.
Ze signaleren een groeiende behoefte aan zekerheid en transparantie in de maatschappij als het gaat om algoritmes. ‘Men maakt zich zorgen over mogelijke vooroordelen – oftewel bias – in de resultaten, privacy van de betrokkenen en discriminatie.’ De bedrijven hebben een toetsingskader ontwikkeld, waarmee kan worden getoetst of het algoritme goed is gebouwd, goed wordt beheerd en goed wordt gebruikt.
‘Moderne algoritmes zijn moeilijk te doorgronden’
‘We vinden het belangrijk dat er zorgvuldig wordt omgegaan met algoritmes, maar moderne algoritmes zijn moeilijk te doorgronden’, aldus Adriaan Ackers, partner van Totta data lab.
André Hendriks, partner van VKA, vult aan: ‘Tegelijkertijd merken we dat de behoefte groeit om besluitvormingsprocessen intern te kunnen verklaren en extern te kunnen verantwoorden’. Daar liggen volgens het tweetal kansen. Organisaties zouden algoritmes op correcte wijze moeten gebruiken, en tevens in staat zijn om uit te leggen wat deze algoritmes doen. Ackers legt uit: ‘Ons product helpt besluitvormers om op een zorgvuldige manier de kracht van algoritmes te benutten voor de organisatie’.
Niet wachten op de overheid
Met het keurmerk hopen beide partijen een bijdrage te kunnen leveren aan de discussie rondom de verantwoorde toepassing van algoritmes. ‘Er is op dit moment nog geen beleid vanuit de overheid voor het gebruik van algoritmes. We hebben ervoor gekozen om deze regelgeving niet af te wachten, maar om zelf een onafhankelijk toetsingskader te creëren’, aldus Hendriks.
Met het keurmerk springen ze in op de actuele discussie rondom algoritmes en datagedreven informatieverwerking waarbij met name gekeken wordt naar de politiek en de wetenschap. ‘Neem bijvoorbeeld de motie van Verhoeven, die onlangs voor veel ophef heeft gezorgd. In deze motie wordt gesteld dat gebruikte algoritmes openbaar moeten zijn en dat gebruikte algoritmes voorzien moeten worden van een audit’, aldus Hendriks.
Eerste keurmerken
De partijen achter het keurmerk stellen dat het belang van transparantie van algoritmes groeit, doordat de inzet van big data-technieken steeds meer groeit. ‘Dat algoritmes doen waarvoor ze zijn bedoeld en hier zo transparant mogelijk over zijn, is van cruciaal belang’. De aanbieders van het keurmerk zijn op dit moment nog in gesprek met de eerste potentiële afnemers. Ze verwachten eind september 2018 de eerste keurmerken uit te reiken.
De slager die zijn eigen vlees gaat keuren dus…
Lijkt er meer op dat VKA hier een business model ziet….
Let op de opmerking “Er is op dit moment nog geen beleid vanuit de overheid voor het gebruik van algoritmes. We hebben ervoor gekozen om deze regelgeving niet af te wachten, maar om zelf een onafhankelijk toetsingskader te creëren”.
Mits de quote correct is, worden hier voor het gemak drie zaken door elkaar gegooid namelijk beleid, [wet en] regelgeving en een toetsingskader.
Ook een opmerking als ‘moderne algoritmes zijn moeilijk te doorgronden’ slaat nergens op. Wat is een modern algoritme? Een simpel algoritme met onduidelijke features of hidden bias is veel riskanter dan een goed getraind deep learning model.
Kortom, met dit soort hype-praat schieten we niet veel op.
Als het gaat om het geautomatiseerd analyseren van gegevens (Verschillende data uit verschillende bronnen – big data) en het daarbij toegepaste model van redeneren controleren op juistheid wat betreft de conclusie, lijkt mij een keurmerk geen slecht idee.
Voor Totta data lab dat actief is in het opsporen van bijstandsfraude, en andere bedrijven die algoritmes ontwikkelen voor een opdrachtgever waarvan de uiteindelijke uitslag van het algoritme grote gevolgen kan hebben, is het juridisch wel goed dat er middels een keurmerk kan worden aangetoond dat de gebruikte methode daadwerkelijk klopt , de data bronnen authentiek zijn en het resultaat klopt op basis van de feiten.
“merken we dat de behoefte groeit om besluitvormingsprocessen intern te kunnen verklaren en extern te kunnen verantwoorden.”
Ik heb zekerheidshalve toch het genoemde persbericht maar even nagelezen.
Dan kan men weinig anders concluderen dat men daar onvoldoende besef heeft van wat algoritmen zijn en doen, noch van reeds bestaande juridische en ethische kaders, noch van de ontwikkelingen over de afgelopen decennia en lopende (inter)nationaal wetenschappelijk onderzoek.
Iets dat men overigens gemeen heeft met politiek en ambtenarij.
Ook toetsingsinstrumenten dienen vooraf getoetst te worden.