Waar blijft de planologie van ai?

Files, opstoppingen op sluiproutes waar de omgeving niet op is bedacht en waar omwonenden niet op zijn voorbereid, zijn aan de orde van de dag. Toch ligt de oorzaak niet per se bij het autogebruik dat in de afgelopen decennia is gestegen, maar eerder door routeplanners. Hoe veroorzaken zulke appjes dat? Dat is de schuld van onze insteek en mentaliteit als informatici.

Routeplanners zijn veelal ingericht (lees: geoptimaliseerd) om de reistijd van de gebruiker zo kort mogelijk te maken. Het is een technische benadering voor een algemeen probleem: hoe kom ik naar mijn bestemming? Met daarbij de vraag: hoe kom ik daar zo snel mogelijk? Het is een logische aanpak, maar daar gaat ook fundamenteel iets mis. Iets wat we niet moeten oplossen met techniek maar met een ander vakgebied, namelijk de planologie.

Waarom planologie? Hoe we het probleem van routeplanners beantwoorden en benaderen, is niet afhankelijk van optimalisatie maar een kwestie van geloofsovertuiging. Hoe willen we onze ruimtes vormgeven? Welke waardes zijn daarbij van belang? Willen we eigenlijk wel dat al die sluiproutes aangeraden worden door routeplanners? Is de snelste route wel iets wat we altijd moeten willen? Moeten we niet ook oog hebben voor andere spelers in het verkeer, zoals omwonenden? Vergelijkbare kwesties zijn voor de planoloog de orde van de dag.

Informatici die zich bezighouden met kunstmatige intelligentie kunnen we vergelijken met architecten. Dat vergt alleen een verplaatsing van de publieke ruimte naar het digitale. Veel aspecten in ons leven spelen zich af in digitale publieke ruimtes. We verplaatsen ons van hot naar her over internet en komen in contact met algoritmes, die bepalen wat we te zien krijgen. Overal op internet hebben we dus een soort routeplanners die we achteloos volgen.

Modeleerbaarheid

Hoe bepalen we de vorm die zulke algoritmes aannemen? Informatici maken een model van het probleem, en daar ligt ook de essentie: modeleerbaarheid lijkt neutraal. Dat modelleren nut heeft, hoeven we niet te ontkennen. Als we kijken naar routeplanners, dan is daar het wegennetwerk gemodelleerd en het probleem werd gezien als de kortste of beste route vinden. Is dat wel de juiste manier van er naar kijken?

In werkelijkheid is het maar de vraag of de informaticus met zijn model van het probleem niet de essentie over het hoofd ziet. Weten we wel of we met alles rekening hebben gehouden of is hier gewoon een politiek geloof doorgedrukt? En wie mag bepalen welke zaken er toe doen in zo’n probleem? Het zijn prangende vragen die harde zaken blootleggen. We hebben het namelijk over de politiek van ai. In het huidige klimaat beschouwen modellen nog steeds vaak als neutraal en mag de programmeur dus zonder al te veel restricties implementeren wat hij of zij wil.

Lijnrecht

Planologen kunnen in dat opzicht een tegenwicht bieden. In de planologie bestaat namelijk zoiets als een wicked problem en dat gaat lijnrecht in tegen het idee van modeleerbaarheid. Het zijn problemen diens oplossing altijd afhankelijk is van de formulering en daarmee afhankelijk van iemands politieke overtuigingen. De routeplanner heeft de onderliggende overtuiging dat alle andere principes moeten buigen voor de minste tijd voor de reiziger, terwijl we daarmee dus nul rekening houden met omwonenden.

Planologen zijn er nog niet voor de digitale ruimte, maar ze zijn hard nodig, want ook hier hebben we te maken met wicked problems. Een implementatie van een algoritme opent zogezegd een setje deuren en sluit anderen op dezelfde manier als een gebouw of brug. Wanneer we een brug plaatsen, gaan er wegen naar toe gemaakt worden. Als we later toch bepalen dat we die brug niet willen, is de wereld er omheen al wel dusdanig op aangepast. Een implementatie van een algoritme is net zo. Planologen noemen dat path-dependency, wat inhoudt dat sommige implementaties andere implementaties versterken en veroorzaken.

Fenomeen in de maatschappij

Waar we de planoloog voor nodig hebben, is het in kaart brengen van politieke overtuigingen. Informatici met gedreven optimalisatie brengen een politiek ideaal naar de tafel dat consequenties heeft. Daar kan je het dus ook mee oneens zijn. Een implementatie van een algoritme is in dat opzicht veel meer dan slechts een implementatie. Het veroorzaakt een fenomeen in de maatschappij: zonder routeplanners hadden we geen vreemde opstoppingen.

Helaas zijn zulke planologen er voorlopig nog niet, maar de gemiddelde informaticus kan wel alvast een begin maken door te realiseren dat veel implementaties misschien per ongeluk politieke consequenties kunnen hebben. Die kunnen we misschien niet allemaal overzien, maar we kunnen wel rekening houden met de gevoeligheid van de situatie. Als het op een groot niveau serieus misgaat, schaadt dat langdurig het imago en de mogelijkheid van implementatie (denk bijvoorbeeld aan Tsjernobyl).

In het kort zouden we eigenlijk moeten stilstaan bij het feit dat beleid en de vormgeving van algoritmes eigenlijk heel dicht bij elkaar zitten, en dus ook aan dezelfde zaken onderhevig zou moeten zijn, namelijk politiek.

(Auteur Sietze Kuilman is Ph.D.-kandidaat bij de Interactive Intelligence Group van de TU Delft.)