Hoogleraar Visualisatie professor Jack van Wijk van de Technische Universiteit Eindhoven (TU/e) krijgt een TOP-subsidie van NWO van bijna zevenhonderdduizend euro. Met deze kapitaalinjectie gaat hij in kaart brengen wat er gebeurt bij voorspellende modellen.
Beslissingen en adviezen op basis van voorspellende modellen kunnen een grote invloed hebben op het leven van de betrokkenen. De laatste jaren worden er echter door de wetenschappelijke wereld, maar ook door de overheid en samenleving meer, en meer vraagtekens gezet bij de inzet van dergelijke methoden. Vaak zijn de modellen namelijk zo complex, dat niemand meer kan begrijpen hoe een advies tot stand is gekomen. Van Wijk: ‘Als het gaat om een aanbeveling voor een film, dan vinden we dit prima. Maar als het gaat om een zware medische ingreep, het afwijzen van een hypotheek of het sturen van een helikopter naar een verdacht schip, dan zullen weinig mensen dat blindelings accepteren en navolgen.’ Daarnaast kunnen de automatisch gegenereerde modellen ook leiden tot ongewenste negatieve neveneffecten zoals discriminatie, bijvoorbeeld wanneer beslissingen zijn gebaseerd op onjuiste of vertekende gegevens.
Om deze reden gaat Van Wijk met de TOP-subsidie van NWO nieuwe methoden en technieken ontwikkelen waarmee inzichtelijk gemaakt wordt welke keuzes en informatie hebben geleid tot een bepaalde aanbeveling van een automatisch beslismodel. Bijvoorbeeld welke informatie is gebruikt, of deze correct is, welke aspecten als meest relevant gezien worden, welke aspecten elkaar beïnvloeden, waarom in twee bijna dezelfde gevallen toch verschillende aanbevelingen gedaan worden, en wat de zekerheid is van een aanbeveling.
Beslismodel
‘Dit inzicht is van belang voor verschillende betrokkenen; ontwikkelaars kunnen er toekomstige beslismodellen mee verbeteren en domeinexperts kunnen beoordelen of plausibele keuzes gemaakt zijn. Maar centraal in het onderzoek staan de personen waar de modellen beslissingen over nemen. Het streven is om tools te ontwikkelen waarmee zij intuïtief en eenvoudig door een beslismodel kunnen navigeren, gebruikmakend van interactieve visualisatie. Zo kunnen zij zelf beoordelen of het advies van het model eerlijk was en inzicht krijgen in hoe zij ervoor kunnen zorgen dat het model een volgende keer een andere beslissing neemt’, aldus de professor.
Niet big data, maar mensen centraal
Visualisatie staat centraal in het voorstel, maar voor het slagen is samenwerking met experts op het gebied van data analyse, mens-machine interactie en psychologie volgens Van Wijk. Hij licht toe: Het door mij ingediende voorstel is voortgekomen uit samenwerking in het kader van JADS, de Jheronimus Academy of Data Science. ‘Hier heb ik de afgelopen twee jaar met andere geïnteresseerden veel gepraat over verschillende thema’s en onderwerpen. Hieruit kwam naar voren dat er belangstelling is voor de link tussen data en mensen. We hebben in deze periode uitvoerig met elkaar gediscussieerd en informatie uitgewisseld, waarbij we veel van elkaar hebben geleerd. Mijn ingediende onderzoeksvoorstel is op deze gesprekken en inzichten gebaseerd.’
Tot slot licht de professor het onderzoek zelf toe. ‘Dit onderzoek zal worden uitgevoerd door drie promovendi, begeleid door een team van onderzoekers met verschillende achtergronden. De namen van deze drie promovendi zijn nog niet bekend. Wel weten we welke expertises we terug willen laten komen. Dit zijn machine learning, predictive analytics, mens- en machine interacties, cognitieve psychologie en visualisatie. Ik vind het belangrijk om te benadrukken dat big data wat mij betreft niet gaat over data, maar over de mensen. Deze staan centraal. Dit komt ook terug in onze modellen, waarbij we bijvoorbeeld ook modellen maken van diegenen die naar de data kijken.’
