Als we de jubelverhalen van AI-adepten mogen geloven, gaan de computers de mens op tal van terreinen vervangen. Maar ondanks nuttige kennissystemen voor specialistische toepassingen, is de beloofde doorbraak van AI niet gekomen, meent Hein van Steenis. Hij velt een hard oordeel over kunstmatige intelligentie anno 2001.
Mede door Arthur C. Clarke’s boek 2001: A Space Odyssey, en de verfilming daarvan door Stanley Kubrick, wordt ons al dertig jaar voorgespiegeld dat pratende en denkende machines de mensen in de 21e eeuw zullen gaan overheersen. Dergelijke voorspellingen worden nog steeds gedaan, want de mythe van AI is onuitroeibaar…
In Wat een heerlijke tijd!, een reeks tv-uitzendingen van Paul Witteman, heeft de vooraanstaande wetenschapper prof. J. van den Herik op 29 september 2000 wederom het mythische vuurtje rond de AI opgestookt. Kok kan binnenkort vervangen worden door een computer! Computers kunnen de macht overnemen! Waarom deugen al deze ideeën niet en wat is het gevaar ervan?
Zo’n vijftien jaar geleden poneerde prof. J. van den Herik de stelling dat rechters door computers vervangen zouden moeten worden. Hij was toen hoogleraar aan de faculteit Rechten van de universiteit van Leiden. Ooit nog iets over gehoord?
Over de rechtspraak horen we eigenlijk vooral dat zaken worden geseponeerd vanwege vormfouten en dat termijnen worden overschreden, waardoor verdachte criminelen vrijgelaten moeten worden. Zouden computers niet beter dáárbij ingezet kunnen worden?
Schaken
Van den Herik heeft in die tijd ook voorspeld dat computers de wereldkampioen schaken zou verslaan: dat is wel gelukt! In 1997 versloeg Deep Blue wereldkampioen Gary Kasparov. Heeft de kunstmatige intelligentie nu gezegevierd? De overwinning van de schaakcomputer is onweerlegbaar, maar de vraag blijft of dat ook het resultaat zou zijn geweest wanneer de wedstrijden herhaald zou worden. En, kan een computer zelf – zonder menselijke tussenkomst – verder leren?
Computerschaak is zeker knap, en zal inmiddels nog verder ontwikkeld zijn . Maar het zou interessant zijn om te weten hoeveel menskracht IBM in het Deep-Blue-project heeft gestoken. Ik schat dat het gespecialiseerde systeemontwerp en vooral de software daarvoor waarschijnlijk wel meer dan enkele duizenden mensjaren heeft gekost – van heel intelligente mensen. Destijds schreef ik dat ik nog meer bewondering had voor Judit Polgár, die op haar dertiende allerlei grootmeesters versloeg. Ze schaakt nog steeds, maar het kost natuurlijk verschrikkelijk veel tijd om aan de top te blijven; Kasparov is geen wereldkampioen meer.
En wat is het belang van schaken? Het is een ingewikkeld spel ondanks zijn eindigheid van 64 velden, 32 stukken en strikte regels over de verplaatsing van stukken en wie wanneer wint. Computerschaak blijft nog steeds een uitdaging, maar schaken is in principe een eindig spel. Met voldoende computerkracht én opslagruimte is het mogelijk om voor elke zet (vanaf de opening) de optimale tegenzet te bepalen, en dan is de lol er af. Dan gaat het niet meer om kunstmatige intelligentie, maar om het opzoeken van de beste tegenzet – net als bij drie-op-een-rij in het spelletje ‘boter, kaas en eieren’.
Kennissystemen
Twaalf jaar geleden waren kennissystemen de grote rage. De kennis van experts zou vastgelegd worden in een computerprogramma, waarmee iedereen hun kennis zou kunnen gebruiken. Ooit nog wat van gehoord? Zo af en toe verschijnt er wel eens een artikel of dissertatie over. En er worden heel nuttige kennissystemen gemaakt voor specialistische toepassingen (complexe processen en diagnoses), maar de grote doorbraak is zeker niet gekomen. Wel horen we nu veel over kennismanagement: het opslaan en raadplegen van de beschikbare informatie in een bedrijf, maar dat is geen kunstmatige intelligentie. Dat is informatie in een computer opslaan en via een netwerk beschikbaar stellen, waarbij het zoeksysteem het slimme onderdeel is en de formulering van de zoekvraag het intelligente.
Waarom is de belofte van kennissystemen niet ingelost?
Hierbij spelen dezelfde problemen als bij het vervangen van de rechter door een computer. In de eerste plaats is het vrijwel onmogelijk om de kennis van een expert te formaliseren, dat wil zeggen, in exacte bewoordingen computers van te voren precies vertellen (in hun programma’s) wat ze in elke situatie moeten doen. Menselijke experts hebben dat met vallen en opstaan geleerd en kunnen hun intuïtie en creativiteit gebruiken voor de uitzonderingen (die steeds vaker regel zijn); maar in een computer moeten álle details van tevoren geprogrammeerd worden.
In de tweede plaats is die computerkennis statisch; als er iets verandert in de wetgeving, het bedrijf en zijn organisatie, of als er een natuurramp plaatsvindt, dan zou ook de computerkennis moeten worden aangepast. In onze snel veranderende bedrijfswereld is dat een onmogelijke zaak. Menselijke experts doen dat automatisch, uit zichzelf en vanzelfsprekend.
En ten derde, wie zou de verantwoordelijkheid voor een computerbeslissing moeten nemen? De programmeurs of de mensen die de juiste werking hebben gecontroleerd? De manager die de opdracht gaf? Wellicht de menselijke expert, maar hoe kan die controleren of het systeem goed werkt en overal goed gebruikt wordt? Een menselijke expert zal heus wel foute beslissingen maken, maar hij zal wel de verantwoordelijkheid nemen. En mensen zullen hém wel vertrouwen, anders zat hij niet op die plaats. Een praktisch probleem is verder dat het vrijwel onmogelijk is om een zinvol expertsysteem volledig te testen.
Om al deze redenen zijn de meeste kennissystemen relatief eenvoudig gebleven en worden hun regels nu opgenomen als bedrijfsregels in een informatiesysteem. Die integratie is hoe dan ook nodig, want een alleenstaand kennissysteem is nauwelijks zinvol. Dat men zich op universiteiten met AI en kennissystemen bezighoudt is natuurlijk een prima zaak, want de grenzen moeten verkend worden en studenten opgeleid. Mijn bezwaar geldt de voorspellingen die AI-mensen maken voor de toekomst in ‘deze heerlijke tijd’, die geen hout snijden.
Brein in chip
Tegelijkertijd met de computer die straks Kok (of zijn opvolger) zou kunnen vervangen, stond op de voorpagina’s van veel kranten het bericht dat onderzoekers van de universiteit van Twente een primitief minibrein hadden ontwikkeld. Een neurotechnoloog heeft een netwerk van tien- tot honderdduizend verknoopte zenuwcellen (afkomstig van rattenembryo’s) geprepareerd en op zestig plaatsen elektrodes aangebracht. Door middel van stimuli hoopt men het netwerk te kunnen trainen. Op termijn zou dit project moeten leiden tot een implanteerbare hersenchip. Neurotechnoloog Rutten onderstreept dat het Twentse minibrein mijlenver af staat van onze echte hersenen. Een mens bezit honderd miljard (1011) hersencellen die ieder op tienduizenden plaatsen met elkaar verknoopt zijn.
In Wat een heerlijke tijd! kwam ook de Engelse professor Worwick aan het woord. Hij heeft al een geïmplanteerde chip, waardoor hij wordt herkend als hij een ruimte binnenkomt – een computerstem verwelkomt hem. Een geintje, maar nu gaat hij met zijn vrouw een tweede-generatie chip laten implanteren, zodat ze elkaar (nog?) beter kunnen aanvoelen: pijn, emotie, vreugde, enzovoort.
Waarom al die voorspellingen?
Implantaten zijn helemaal niet nieuw, denk maar aan de miljoenen pacemakers die de hartkleppen van mensen met een zwak hart stimuleren. Wat mij betreft zouden deze wetenschappers zich veel nuttiger met enkele praktische problemen kunnen bezighouden, bijvoorbeeld: suikerziekte, doofheid, incontinentie en alle andere makkes die mensen dwars zitten. Waarom al die aandacht voor kunstmatig intelligente chips? En waarom haalde het verhaal over Kok alle voorpagina’s?
Het boze vermoeden bestaat dat vooraanstaande wetenschappers veel geld nodig hebben voor hun projecten, juist in deze tijd waarin faculteiten zich moeten bewijzen en studenten moeten aantrekken, zowel in Europa als in de VS. Dat is overigens geen recent fenomeen, dat gebeurt al veertig jaar lang. Wetenschappers zoeken de publiciteit, en kranten nemen hun verhalen gretig op, want mensen willen graag het goede nieuws horen.
Bovendien hebben de voorspellers van het heerlijke nieuws de technologiewind mee: misschien kan het nu nog niet, maar over enkele jaren zijn computers weer zoveel keer sneller. En straks kunnen we alle niet-gebruikte computers via internet laten samenwerken. Zelfs tijdens normaal gebruik staan PC’s voor 99 procent van de tijd toch niets te doen en de rest van de dag zijn ze voor 100 procent beschikbaar. Het is begonnen met het SETI-project, de zoektocht naar signalen van buitenaards leven, maar door grid computing wordt die samenwerking straks eenvoudig als we allemaal continu via internet met elkaar verbonden zijn. Dan kunnen we zéker alle problemen kraken! Maar, nog afgezien van de (onmogelijke) beveiliging van zo’n enorm netwerk, is erg veel rekenkracht het enige dat nodig is voor AI?
Gebrek aan inzicht
Waarom is AI zo moeilijk? Roger Penrose schreef een boek met de titel ‘The Emperor’s New Mind’ (Het nieuwe brein van de keizer, 1989) dat begint met de onthulling van de grootste supercomputer ooit: de Ultronic. Premier Pollo stelt in zijn openingsspeech dat hij niet veel van computers weet, maar dat hem is verzekerd door de leveranciers dat deze computer alle moeilijke beslissingen voor hem kan nemen. Hij ziet uit naar de tijdwinst en de mogelijkheid om langer te kunnen golfen. De hoofdontwerper vertelt dat deze computer over meer dan 1017 logische eenheden beschikt, meer dan alle neuronen van alle mensen in het hele land! De schakelaar wordt omgezet, waardoor de lichten even dimmen (de computer vraagt veel energie). De hoofdontwerper vraagt of iemand een vraag wil stellen. Iedereen is te zeer onder de indruk, behalve de vierjarige Adam die van jongs af aan met computers is opgegroeid.
Dit verhaal – een cliffhanger – gaat pas verder aan het slot van het boek. Adam stelt zijn vraag en … Ultronic laat weten dat hij die vraag niet begrijpt! In het tussenliggende deel van zijn boek beargumenteert Penrose de onmogelijkheid van echte AI op grond van de fysica. Echte AI werkt met intelligente algoritmes in plaats dat alle denkbare mogelijkheden (waarbij sprake is van een exponentiele groei door meer dimensies) doorzocht worden.
Natuurlijke taal, bewustzijn, denken en vooral het menselijk begrip in een computer brengen, is niet mogelijk omdat we fundamentele inzichten in de fysica missen. Het nieuwe brein van de keizer is daarom even afwezig als zijn nieuwe kleren.
Onmogelijkheid van echte AI
Penrose heeft veel meer bekendheid verworven dan Hubert L. Dreyfus (niet te verwarren met A. Dreyfus die als hoogverrader veroordeeld werd en later gerehabiliteerd is dankzij Emile Zola). H.L. Dreyfus is een Amerikaanse filosoof die al sinds 1965 op de onmogelijkheid van echte AI heeft gewezen. Omdat zijn argumentatie stoelt op filosofische gronden, in plaats van natuurkundige, is hij vrijwel onbekend. Zijn boeken worden zelden aangehaald.
In zijn laatste boek ‘What computers still can’t do’ (1992) beschrijft Dreyfus de geschiedenis van de AI: de diverse golven, hun claims, de vooronderstellingen, de drogredeneringen en wat er (niet) van terecht is gekomen. Een leerzaam overzicht, maar wat ik het interessantste vond, is zijn voornaamste argument waarom AI onmogelijk is. Hij stelt dat het hebben van een lichaam een essentiële voorwaarde is voor menselijke intelligentie of intelligent gedrag!
In het Westen kennen we een sterke tweedeling tussen het domme, ‘lage’ lichaam en de intelligente, ‘superieure’ geest. Natuurlijk zijn het brein en de zintuigen van de mens onderdeel van zijn lichaam, en daarom een noodzakelijke voorwaarde voor intelligentie, maar daar gaat het Dreyfus niet om. Een computer is een ding zonder inherente drijfveren om anderen te amuseren, lief te hebben of te overleven. Hoe meer drijfveren en bewustwording een mens heeft, hoe meer mogelijkheden tot intelligentie. De verbondenheid van lichaam en geest is een voorwaarde voor intelligentie. De geest bestuurt het lichaam en het lichaam (via de zintuigen) levert de drijfveren voor de geest. Deze unieke synergie is het kenmerk van álle levende wezens. Een computer blijft wat het is: een zielloos ding. De mens is wel bezield.
De achterliggende veronderstelling van echte AI is dat het menselijk brein een machine is. Als we de regels daarvan kunnen achterhalen, kunnen we die in een computer overbrengen en zo kunstmatige intelligentie verwezenlijken. Op ‘abstracte’ gebieden is dat op een bepaalde manier zeker mogelijk – getuige de schaakcomputer en andere toepassingen – maar alleen als die regels eenduidig zijn en niet veranderen. Zo’n computer die niet kan leren, wordt alleen gebruikt als mensen zijn (eenmalige of herhaald) resultaat nodig hebben.
Verschillen
Mens en machine vullen elkaar uitstekend aan. Computers zijn uitstekend geschikt om een fabrieksmatig proces te automatiseren: ze worden niet moe, krijgen er niet genoeg van om steeds exact hetzelfde te doen en te zorgen voor constante kwaliteit. Mensen hebben daaraan een broertje dood, maar zij begrijpen wél wat andere mensen willen. Computers kunnen best een voor een mens te complex probleem oplossen, maar hoe zou een computer een bedrijf kunnen bedenken en aanpassen aan de veranderende smaak van zijn klanten? Begrip van situaties en intuïtie zijn typisch menselijke eigenschappen, die we niet aan computers kunnen overlaten.
Leren is in deze snel veranderende wereld een noodzaak om bij te blijven. We leren als klein kind om onze lichaamsdelen te coördineren, te praten en met andere mensen te communiceren. Natuurlijke taal is (en blijft) een heel moeilijke zaak voor computers omdat onze taal erg dubbelzinnig is en de herkenning daarvan veel begrip vereist. Aan de betekenis van de woorden alleen, kun je de bedoeling niet afleiden. Die betekenis hangt af van algemeen begrip (algemene kennis van de wereld), de specifieke context (wat er voorgevallen is en verwacht wordt) en de manier waarop de woorden gebruikt worden (nadruk, lichaamstaal, enzovoort). Computers kunnen wel gedrukte letters herkennen en steeds beter menselijke spraak, maar begrijpen kunnen ze die niet. Vandaar dat grammaticacontrole zinloos is en vertaalprograma’s er weinig van bakken.
Mensen krijgen hun kennis en begrip door ervaring: ze leren al doende. Je wordt niet als expert geboren! Leren vindt plaats door terugkoppeling van het resultaat: je neemt een beslissing, ziet wat het resultaat is en leert hoe je het een volgende keer beter kunt doen; zo leer je steeds betere beslissingen nemen.
Kun je zo’n leerproces ook in een computer onderbrengen? Theoretisch misschien wel, maar praktisch zijn er fundamentele problemen.
Waarom komt machinaal leren niet van de grond? Er is een aantal problemen.
Hoe bepaalt een computer wat hij moet leren en op basis waarvan hij moet leren? Hoe bepaalt hij wanneer hij voldoende geleerd heeft en wanneer hij moet bijleren en hoe hij dat allemaal het best kan doen?
Mensen doen dat allemaal vrijwel automatisch – volgens Dreyfus omdat ze een lichaam hebben en kunnen voelen (en geleerd hebben wat voor andere mensen belangrijk is en wat niet). Een computer is en blijft een ding omdat het geen lichaam heeft, en dus door mensen verteld moet krijgen wat belangrijk is en wat niet. Met meer rekenkracht kun je alleen de schaal vergroten, niet machinaal leren mogelijk maken.
Neurale en genetische netwerken
AI-mensen zullen tegenwerpen dat neurale netwerken (die werken op een met onze hersenen vergelijkbare manier) wel degelijk kunnen leren. Zo’n netwerk krijgt in de leermodus een aantal voorbeelden (stimuli) voorgeschoteld, elk met de gewenste respons, waarmee het leert om die voorbeelden in gebruiksmodus te herkennen. De theorie daarvoor bestaat al dertig jaar, maar de techniek wordt slechts incidenteel gebruikt. Tegen neurale netwerken bestaat een aantal bezwaren. Als er een nieuw soort voorbeelden herkend moet worden, moet het hele leerproces met alle stimuli opnieuw uitgevoerd (én getest) worden. Verder kan zo’n systeem geen uitleg geven over hoe het tot zijn uitkomst (de combinatie van een grote hoeveelheid factoren) komt, ook niet hoe je die zou moeten veranderen om betere resultaten te bereiken.
Hetzelfde geldt voor de nieuwere genetische netwerken. Die zijn heel nuttig om technisch complexe problemen op te lossen, zoals de rangschikking van componenten op een chip of de gedrukte bedrading op een moederbord. Maar dat is geen AI!
Onwenselijkheid
We kunnen tegenwoordig in theorie vrijwel alles – zij het vaak tegen exorbitante kosten. Maar afgezien van de onwenselijkheid dat computers mensen vervangen (wie gebruikt een onberekenbare computer voor essentiële zaken?), laat ook de praktijk het afweten. Het feit dat je computersystemen moet testen en dat mensen ervoor verantwoordelijk moeten willen zijn, beperkt hun praktisch gebruik.
Daarom is de uitspraak dat de minister-president op termijn door een computer zou kunnen worden vervangen, de grootst mogelijke nonsens. Immers, welke minister-president en welke politieke keuzes zouden ingebracht moeten worden? Hoe zou dat kunnen gebeuren, en hoe snel? En wie zou dat moeten doen? Wie zou het systeem moeten testen en hoe zou dat kunnen? Wie draagt vervolgens de verantwoordelijkheid voor beslissingen van de presidentiële computer? Hoe zou zo’n computer kunnen leren van zijn fouten? En, zeker niet in de laatste plaats, zou een computer waarvoor niemand de verantwoordelijkheid draagt (of kan dragen) vertrouwd worden, acceptabel zijn voor de mensen in het land? Alleen een computeraar met een extreem geval van tunnelvisie zo’n uitspraak doen.
Computerbeeldreligie
De verering van het televisiebeeld was destijds aanleiding voor een spraakmakende uitzending over beeldreligie. De verering van het beeld is sinds de intrede van het pc-beeldscherm op een enorme manier verbreed door de nieuwe media. Dankzij steeds krachtiger processors en grotere beeldschermen, is het computerbeeld nu praktisch levensecht. Daarmee groeit het gevaar dat we de grote verschillen tussen mensen en dingen uit het oog gaan verliezen en dreigen we in een autistische wereld terecht te komen, waarin dat onderscheid niet gemaakt wordt.
Clarke’s profetie over het jaar 2001, het echte begin van het nieuwe millennium wordt in de film gerealiseerd: de almachtige machine. In de film moest een mens doordringen in HAL’s ‘hersenpan’ om daar geheugenmodules uit te rukken. Anno 2001 zouden we beter moeten weten wat de beperkingen van kunstmatige intelligentie zijn, maar er wordt ons een verleidelijk rad voor de ogen gedraaid door AI-mensen. We geloven maar al te graag in sprookjes! Daarom is het goed om even stil te staan bij het wonder van de menselijke intelligentie en het menselijk leven, dat onbegrensde mogelijkheden kent en dat tot heel veel meer in staat is dan fraaie voorspellingen.
Lees Pinkers ‘Hoe de menselijke geest werkt’ (1997), waarin de Amerikaanse psycholoog B.F. Skinner wordt aangehaald: "De vraag is niet of machines kunnen denken, maar of mensen het doen." Helaas steekt dit artikel over de onmogelijkheid van echte AI wat zuur af naast alle positieve verhalen over technische meesterstukjes. Dit is niet het goede nieuws dat mensen graag willen lezen. En daarom zal de mythe van AI waarschijnlijk het eeuwige leven hebben.
Hein Van Steenis Freelance Medewerker
