Er bestaat een goede kans dat de mensheid de eenentwintigste eeuw niet overleeft. Dat beweert tenminste Bill Joy, chief scientist, of wel het huisgenie van Sun Microsystems en voormalig adviseur van Bill Clinton. Genetische manipulatie, nanotechnologie en kunstmatige intelligentie zitten in een doos van Pandora. Gaat die open, dan zal de wereld worden geteisterd door gemanipuleerde organismen, nanobots en slimme robots. Eén Docter Evil zal voldoende zijn om het mechanisme van zelfvernieting in werking te stellen.
Het kan daarom geen kwaad om het Manifesto van de Unabomber nog eens te lezen. En, o ja, ook het werk van de Dalai Lama.
Joy schrijft in een artikel in het aprilnummer van het Amerikaanse tijdschrift Wired – ‘Why the future doesn’t need us’ – dat hij geen vriend is van Theodore Kaczynski alias de Unabomber. Sterker nog, hij had zelf gemakkelijk één van de slachtoffers kunnen zijn van de tereurcampagne die Kaczynski zeventien jaar lang uitvoerde met zijn explosieve post. Dat neemt niet weg dat Kaczynski, volgens Joy, in zijn Unabomber Manifesto een paar rake argumenten op tafel legt.
Intelligente machines
De verknipte Kaczynski vermoordde drie vooraanstaande wetenschappers en verwondde een groot aantal anderen met zijn bombrieven. Waarom? Hij geloofde dat zijn slachtoffers hielpen bij het realiseren van een toekomst waarin het lot van de mensheid geheel in handen komt van intelligente machines en andere technologieën. Kaczynski schrijft in zijn Manifesto dat het per definitie onmogelijk te zeggen is wat de machines met deze macht zullen doen. Maar fijn voor de mensen zal het niet zijn.
Is Kaczynski’s ‘dystopia’ – het tegengestelde van een utopia – gebaseerd op waandenkbeelden? Nee, zegt Joy en hij verwijst naar het werk van de in Amerika zeer gerespecteerde computer- en software-expert Ray Kurzweil. Kurzweil voorspelt in zijn populaire boek, The Age of Spiritual Machines, dat over zo’n dertig jaar de grens tussen menselijk bewustzijn en kunstmatige intelligentie zal vervagen. De inhoud van menselijke hersenen zal worden gescand om gedownload te worden in computers die inderdaad veel slimmer zullen zijn dan stervelingen van vlees en bloed.
Wie meent dat dit allemaal onzin is, moet het omslagartikel, ‘I Robot’, uit het februarinummer van Wired maar eens lezen. Dit artikel beschrijft de lotgevallen van de Engelse wetenschapper Kevin Warwick, die een chip heeft laten inplanten in zijn lichaam. Kurzweil schrijft in zijn boek met een jongensachtig enthousiasme over de versmelting van neuronen en elektronen en de onbeperkte mogelijkheden van kunstmatige intelligentie in robots en cyborgs (half-mens, half-machine). Joy beschouwt dit meer als een nachtmerrie. De man die bij Sun de Jini-technology voor distributed computing heeft ontworpen, gelooft namelijk dat intelligente robots, nanobots en genetisch gemanipuleerde organismen te gevaarlijk zijn.
Reproductie
Een belangrijk verschil met nucleaire technologie is dat robots, nanobots en genetische gemanipuleerde organismen zichzelf zonder de controle van mensen kunnen reproduceren. Ze hebben de mens niet nodig en kunnen zelf het heft in handen nemen bij de verdere evolutie. Vandaar ook de titel van Joy’s artikel: ‘Waarom de toekomst ons niet nodig heeft’. Het woordje ‘ons’ wijst natuurlijk op de mens. Een ander gevaar is dat deze technologieën gemakkelijk geëxploiteerd kunnen worden door kwaadwillende individuen en terroristische groepen. Wie over nucleaire wapens wil beschikken, heeft ongekende hoeveelheden geld en dure grondstoffen nodig. Eén Dokter Evil kan echter met beperkte middelen en kennis van kunstmatige intelligentie de hele mensheid naar de afgrond voeren.
Neem nou nanotechnologie. Deze technologie zal de mens ooit in staat stellen atomen en moleculen zo in elkaar te passen dat er intelligente moleculaire machines ontstaan die alle denkbare taken kunnen verrichten – waaronder het zichzelf reproduceren. Zoals de digitale revolutie de kosten van het vermenigvuldigen en verspreiden van informatie tot nul terugdringt zo zal de nanorevolutie ervoor zorgen dat de mensheid zonder veel kosten zal beschikken over eindeloze hoeveelheden goedkope producten. Mooi toch?
Nanotechnologie betekent in principe ongekende rijkdom. Maar er is een probleem. Eric Drexler, de geestelijke vader van de nanotechnologie, schrijft in zijn boek, Engines of Creation, al dat zichzelf reproducerende nanobots gemakkelijk kunnen veranderen in engines of destruction, intelligente machines die alle leven op aarde kunnen vernietigen. Joy wijst erop dat hetzelfde kan gebeuren met genetische gemanipuleerde organismen en robots die intelligenter zijn dan de mensen die hen hebben ontworpen. Het probleem van deze technologieën is dat ze – door kwaadwilligheid of gewoon per ongeluk – gemakkelijker kunnen leiden tot grote verwoestingen dan tot prestaties waarvan de mensheid kan profiteren. Joy en de Unabomber zijn het hier roerend met elkaar eens.
Nog niet te laat
Wat wil Joy? Hij gelooft dat het nog niet te laat is om een halt toe te roepen aan de verschrikkingen die ons te wachten staan wanneer nanotechnologie, genetische manipulatie en robottechnologie ongebreideld voortwoekeren. Hij is niet van plan een gewelddadige weg te bewandelen zoals de Unabomber dat deed; wel meent hij dat er internationale verdragen moeten komen waarbij wetenschappers zichzelf beperkingen opleggen. In die verdragen zouden dan bepaalde soorten onderzoek taboe moeten worden verklaard. Alleen zo kan de doos van Pandora dicht blijven.
Dalai Lama
Wetenschappers die moeten afzien van bepaalde soorten onderzoek: Is dit naïef? Dictatoriaal misschien? Joy wijst erop dat de mensheid er ook – tot op zekere hoogte – in is geslaagd de verspreiding van chemische- en biologische wapens binnen de perken te houden middels internationale verdragen. Hij schrijft verder dat de mensheid ervan doordrongen moet raken dat geluk en welzijn niet noodzakelijkerwijs gebaat zijn bij de ongebreidelde vooruitgang van wetenschap en technologie. Joy heeft zelf een betere ethische oriëntatie gevonden in het gedachtegoed van de Dalai Lama, die zegt dat macht, rijkdom en kennis de mens niet gelukkiger maken.
Science fiction
Bill Joy’s schrikbeelden zijn niet nieuw. Er is zelfs een heel literair genre gebaseerd op de vreselijke dingen die ons in de toekomst te wachten staan door de technologische ontwikkeling: Science fiction! In Frank Herberts werk The White Plague zaait een moleculair-bioloog dood en verderf middels een genetisch gemanipuleerde ziekteverwekker. In Arthur C. Clarke’s beroemde boek, 2001, A Space Odyssey wordt de bemanning van een ruimteschip geëlimineerd door de te slimme computer Hall. En kenners van de Bommeliaanse wereld zijn ongetwijfeld vertrouwd met de kwade genius Professor Sikbok wiens uitvindingen altijd bedoeld zijn om de mensheid een hak te zetten. Gelukkig heeft Olie B. Bommel altijd Tom Poes bij de hand om de Rommeldam uit de penarie te halen. En onze wereld? Die heeft nu Bill Joy, die hopelijk een list verzint om te voorkomen dat zijn nachtmerries ooit waarheid worden.
