116 directeuren en oprichters van techbedrijven op het vlak van robotica en kunstmatige intelligentie (ai) willen dat de Verenigde Naties actie onderneemt tegen de ontwikkeling van autonome wapensystemen. In een open brief waarschuwen ze voor de opkomst van zogenoemde killer robots.
Volgens de ondertekenaars gaan de ontwikkelingen van autonome wapensystemen ontzettend snel en is het zaak dat er maatregelen komen om die ontwikkeling te stoppen.
Ze vrezen voor een wapenwedloop van systemen die gebruik maken van kunstmatige intelligentie en robotica. ‘Gewapende conflicten kunnen uitgevochten worden op een schaal die we nu nog niet kennen’, stellen ze. Ook zijn ze bang dat robotica- en ai-technologie door de verkeerde mensen en voor verkeerde doelen wordt ingezet.
Ook zijn ze bezorgd dat kunstmatige intelligentie en robotica een derde revolutie binnen de oorlogsvoering kunnen ontketenen. Daarmee stellen ze de opkomst van killer robots gelijk aan ontwikkelingen zoals de uitvinding van het buskruit en kernbewapening. Bovendien stellen ze dat de systemen in de verkeerde handen, of als ze bijvoorbeeld gehackt worden, extreem gevaarlijk zijn.
De ceo’s stellen dat er moet worden ingegrepen om de ontwikkeling van autonome wapensystemen te stoppen, omdat het anders moeilijk wordt om later ‘de doos van Pandora weer te sluiten’. De brief is ondertekend door de Nederlandse oprichters-ceo’s Koen Hindriks en Joachim de Greeff van Interactive Robotics, Maja Rudinac van Robot Care Systems en Jaap van Leeuwen van Blue Ocean Robotics Benelux.
Conferentie wapensystemen
De VN had vandaag een conferentie gepland staan waar het onderwerp autonome wapens op de agenda stond. Maar doordat niet alle lidstaten hun financiële bijdrage aan de VN hebben voldaan, is die bijeenkomst naar november verplaatst.
Na een eerdere oproep van experts richtte de VN in 2016 een comité op om de gevaren van autonome wapens te bespreken.
https://nl.wikipedia.org/wiki/Drie_wetten_van_de_robotica
Probleem was voorzien compleet met oplossing
De oorspronkelijke drie wetten van de robotica (de calviniaanse religie):
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.
Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Asimov baseerde de wetten op de basisprincipes van gereedschap, redenerend dat een robot feitelijk ook een soort gereedschap is:
1
Gereedschap moet veilig zijn. Hamers en schroevendraaiers hebben bijvoorbeeld handvatten die de grip verbeteren. Als iemand toch gewond raakt dan zou dit in principe niet het gevolg moeten zijn van onveiligheid van het gereedschap maar van onjuist gebruik.
2
Gereedschap moet zo efficiënt mogelijk zijn, tenzij dit gevaar oplevert voor de gebruiker. Een voorbeeld is een voertuig met een snelheidsbegrenzer.
3
Gereedschap mag niet zomaar kapot gaan, tenzij het de bedoeling is dat het maar een beperkt aantal keren meegaat of dit ter waarborg voor de veiligheid van de gebruiker is.
@Robert : we zijn echt wel wat opgeschoten sinds Asimov.
Robolaw is een apart expertgebied, vooral Europees.
Voor een aardig overzichtsartikel zie het recente ‘Regulatory challenges of robotics: some guidelines for addressing legal and ethical issues’ op http://www.tandfonline.com/doi/full/10.1080/17579961.2017.1304921
Daar kom je ook de ‘Guidelines on Regulating Robotics’ weer tegen.
Interessant genoeg heeft Robolaw ook overlap met GDPR en DAO.
Maar de open brief gaat over LAWS – hier een beetje tendentieus ‘killer-robots’ genoemt.
Zowel op het gebied van LAWS als cyberwar zit er bij de VN politiek weinig schot in. Om begrijpelijke redenen.
Maar je kunt je natuurlijk ernstig afvragen waarom al die 116 directeuren en oprichters niet gewoon hebben aangekondigd te stoppen met onderzoek en ontwikkeling van ‘killer-robots’.
Nu zit er een luchtje aan.