Vredesorganisatie Pax denkt dat de wapenwedloop met autonome wapens tot een 'catastrofe voor de mensheid' zal leiden. De organisatie baseert zich hierbij op onderzoek naar de status van militaire ai-projecten in de VS, China, Rusland, Frankrijk, Israël en Zuid-Korea. Pax vraagt de staten een verbod in te stellen op ontwikkeling, productie en inzet van autonome wapens.
Naast staten, maakt de organisatie zich zorgen om private bedrijven die op de ontwikkeling van autonome wapens duiken. Pax roept staten dan ook op om in internationaal verband af te spreken dat dodelijke autonome wapens niet door de private sector ontwikkeld mogen worden.
De nobele en nastrevenswaardige voorstellen in het rapport (pdf), hebben we intussen geleerd dat het bestaan van internet ervoor zorgt dat dergelijke moratoria misschien weinig effect hebben. Denk aan printbare wapens uit de 3d-printer en de memorabele film WarGames uit 1983.
Ondanks alles, vreest u een ai-wapenwedloop of denkt u dat het wel los zal lopen en bedenkt ai zelf dat het misschien allemaal niet zo handig is?
Die moet ik niet vrezen, die is er al.
We moeten in Europa oppassen want onze Duitse buren hebben een (te) groot aantal mensen die openlijk een oorlog propageren.
Ik heb er geen behoefte aan dat Europa voor de derde keer door de Duitsers in de puin wordt gelegd.
Maar er is hoop, de Duitse wapenindustrie levert momenteel zulke rotzooi dat dat niks wordt, laten we hopen dat dat zo blijft.
Een zekere Mw. van der Leyen, dochter uit een discounterfamilie runt het ministerie van “defensie” in Duitsland, dat is een slaafse volgeling van Merkel, vroeger een vertrouwde in de kring van de Stasi/Honecker. Klinkt niet goed? Is het ook niet.
Soms ben ik heel erg blij dat ik geen kinderen heb.
Als we moeten vrezen voor een AI wapenwedloop, dan is de kans dat we overvleugeld worden door China het grootst. Zij bouwen met rap de meeste echte ervaring op in de praktijk. Daarnaast laten ze zich niet in de kaart kijken, dus hebben kunstmatig opgelegde restricties weinig zin. Soort van pre-optimalisatie en dat hebben we geleerd “is the root of all evil”.
Als je met AI een wapenvoordeel kan behalen, dan zal men er naar streven om met AI die een wapenvoordeel te behalen. Hier anders over denken is naïef. Dus beter laat je alle restricties varen en hoop je on-par te komen met anderen.
Heb er niet helemaal ingedoken, maar er zijn al best veel signalen dat Trump een “wag the dog” gaat doen.
Hoe dan ook is het belangrijk om in Europa tegengas te geven en met diensten te komen die kunnen concurreren met Amazon, Microsoft, Google en Facebook… Hoe? Geen idee, maar belangrijk is het wel.
Henri, eens.
Wat mij verbaast is dat alle politici op Facebook gegaan zijn, daarmee ook een groot aantal overheidsinstellingen.
Vanuit de politiek zouden toch alternatieven gestart kunnen worden of begrijp ik het allemaal niet zo goed . . . is het beter een geldstroom richting VS te promoten.
Discussie begint met de wedloop in autonome wapens maar de rol van AI hierin is nog redelijk beperkt als ik kijk naar de GPS-afhankelijkheid van drones. De inzet van commando’s in het spel zal ik onbenoemd laten en hetzelfde geldt voor de inzet van onderzeeërs die in ondiepe wateren kunnen opereren. High-tech is leuk maar kwetsbaar en Krijn moet eens kijken waarom er zoiets ontwikkeld is als Internet.
Ewout, is zoiets als euvsdisinfo.eu niet een van de uitwassen van internet dat als arpanet door het us-militair ontworpen was?
Deze uitwas wordt van belastinggeld betaald en ontvangt jaarlijks ettelijke miljoenen euro’s. Dat is cyberwar.
Vandaag stelde de Oostenrijkse minister van binnenlandse zaken dat iedere Oostenrijker een 14-dagen-voorraad zou moeten hebben aan konserven, water en hulpmiddelen om zonder stroom uit komen. In geval van een oorlog (!?!).
Jan,
Het feit dat een Oostenrijkse minister adviseert om de afhankelijkheid van stroom te verkleinen heeft misschien meer met de ideologische onzin van een klimaat te maken dan de dreiging van een oorlog.
Ewout,
de uitspraken waren niet in het kader van klimatologische discussies maar in het kader van de dreigingen m.b.t. Navo/EU en Rusland.
Nu je het er over hebt, de klimaatverandering is hier, 600m hoogte en heuvellandschap, erg duidelijk te merken.
Mijn vrouw heeft als fotografe veel landschap gefotografeerd en verkondigt dat al jaren.
In ieder geval hoeven we niet te vrezen voor AI-wapens uit Oostenrijk, deze bevolking is diep gelukkig als ze kunnen grillen en veel bier drinken.
Jan,
Ik ben nogal sceptisch aangaande de klimaathysterie, veel alarmisten trokken later hun conclusies weer in omdat een wetenschappelijk bewijs ervoor ontbrak. Zo kwamen onderzoekers dus tot de conclusie dat de Romeinen al draadloos internet hadden omdat ze geen koperen kabels konden vinden. Een conclusie die afgeleid is van een waarneming welke uiteindelijk gebaseerd is op een aanname. En dat omschrijft zo’n beetje de waarde van AI want het is een ‘gekunstelde intelligentie’ op basis van een emperische cyclus en een non-proliferatieverdrag in de ontwikkeling van AI moet dan ook gaan om de verificatie module.
Een ontwikkeling zoals IoT is nauw verbonden aan de ontwikkeling van AI, de belofte van autonoom rijdende auto’s heeft de potentie om te veranderen in autonome wapens als verificatie van de conclusies binnen de emperische cyclus ontbreekt. Voor de wat oudere lezers, de serie met David Hasselhoff als Knight-rider ging om een auto met allerlei futuristische sensors en een ‘eigen wil’ middels kunstmatige intelligentie om zelfstandig te kunnen rijden die echter ook een ‘override’ kende. Een optie die vaak ontbreekt bij de autonoom werkende wapens welke bestaan uit de ideologische menselijke bommen. De civiele autonoom opererende drone die normaliter een pakje van Coolblue brengt kan ook gebruikt worden door een groepering met kwade bedoelingen.
Ontbreken van een override kan tot vele doden leiden, Boeing 737-Max bijvoorbeeld.
KI of AI, heeft mijns inziens weinig met intelligentie te maken, maar het begrip intelligentie is ook nooit goed gedefinieerd, mede omdat het deels afhankelijk is van de culturele omgeving.
Ook een wiskunde-genie kan zich sociaal onbeholpen gedragen, is hij dan toch “intelligent”?
Dat er een klimaatverandering is, dat staat vast, de invloed van ons mensen daarop is moeilijk te quantificeren.
De voorgestelde (politieke) maatregelen in nederland zonder enige relevante betekenis.
Jan,
De ‘override’ in klimaatmodellen mist het gezonde verstand dat onze planeet al aan veranderingen onderhevig is voordat er mensen waren. Ik weet niet wat de jeugd tegenwoordig op school leert maar ik heb nog geleerd over de ijstijden. Desondanks wordt de vermeende invloed van mensen op het klimaat gekwantificeerd middels belastingen terwijl de politieke realiteit hierin dus dezelfde reductio ad absurdum is als de aanname dat er in de Romeinse periode van voor onze jaartelling al draadloos internet was.
Terug naar de discussie wijs ik nogmaals op het feit dat ook autonoom werkende wapens vaak een afhankelijkheid hebben met netwerken voor de C&C van een ‘override’ omdat je anders in de low-tech autonoom werkende wapens van boobytraps en mijnen komt. De Duitsers hadden met hun V1/2 programma van autonome raketten een uitdaging met de plaatsbepaling maar tegenwoordig hebben we netwerken zoals zoals GPS/Galileo/Glonass.
Een mondiaal werkende Chinese equivalent is nog niet operationeel, tenminste niet voor de civiele diensten:
https://www.gps.nl/blog/gps-glonass-galileo.html
De inzet van IoT/AI is dus een ‘Dr. Jekyll & mr. Hyde’ dilemma omdat militiaire technologie civiel gebruikt kan worden, vice versa kan natuurlijk ook.