Elon Musk en Stephen Hawking roepen op tot een verbod op killer AI

Siri, Cortana, Google Now - ze zijn altijd aardig voor ons geweest. Maar de toekomst van kunstmatige intelligentie is misschien niet zo goedaardig.

Daarom heeft het Future of Life Institute zojuist een open brief waarschuwing over de gevaren van gemilitariseerde AI.

De brief, waarin wordt opgeroepen tot een verbod op "offensieve autonome wapens", is ondertekend door honderden vooraanstaande experts, waaronder Stephen Hawking, Elon Musk, Noam Chomsky en Steve Wozniak.

Het beschrijft autonome wapensystemen als de "derde revolutie" in oorlogsvoering, na buskruit en kernwapens.

De brief begint met te verduidelijken wat wel en niet wordt beschouwd als een autonoom AI-aangedreven wapen.

Bijvoorbeeld kruisraketten of op afstand bestuurde drones waarbij mensen beslissingen nemen over het doelwit, zijn hier blijkbaar niet aan de orde.

Het beweert echter dat "gewapende quadcopters" die doelen kunnen zoeken en doden die voldoen aan een "vooraf gedefinieerd criterium" een groot nee-nee zijn.

De brief wordt lyrisch over de potentiële gevaren die gemilitariseerde autonome wapens voor de mensheid zouden kunnen betekenen.

"In tegenstelling tot nucleaire wapens, hebben ze geen dure of moeilijk verkrijgbare grondstoffen nodig, dus zullen ze alomtegenwoordig en goedkoop worden voor alle belangrijke militaire machten om massaproductie te maken", luidt het.

De brief vervolgt: "Het zal slechts een kwestie van tijd zijn voordat ze op de zwarte markt verschijnen en in handen van terroristen komen, dictators die hun bevolking beter willen beheersen, krijgsheren die etnische zuivering willen plegen, enz. Autonome wapens zijn ideaal voor taken als moorden, het destabiliseren van naties, het onderwerpen van bevolkingsgroepen en het selectief doden van een bepaalde etnische groep. "

De brief roept wel argumenten op voor het gebruik van autonome wapens op het slagveld.

Er wordt bijvoorbeeld gesuggereerd dat het aantal slachtoffers onvermijdelijk zal worden verminderd door menselijke soldaten te vervangen.

De brief weerlegt dit echter met het argument dat militante AI de "drempel om ten strijde te trekken" zou verlagen.

Verwant: 9 griezelige manieren waarop robots mensen vervangen

Het concludeert uiteindelijk: “We zijn daarom van mening dat een militaire AI-wapenwedloop niet gunstig zou zijn voor de mensheid. Het starten van een militaire AI-wapenwedloop is een slecht idee en moet worden voorkomen door een verbod op offensieve autonome wapens die geen zinvolle menselijke controle hebben. "

De brief van het FLI zal officieel worden gepresenteerd op de internationale gezamenlijke conferenties over kunstmatige intelligentie in Buenos Aires op 28 juli.

Dit is niet de eerste keer dat de beste techneuten zich uitspreken over killer AI. Tesla-baas Elon Musk vergeleek de ontwikkeling van AI met "Het oproepen van de demon", terwijl Apple mede-oprichter Steve Wozniak stoutmoedig beweerd "Computers gaan het ongetwijfeld van mensen overnemen".

Dit nieuwsartikel is u aangeboden door uw toekomstige robot-opperheer. Allemaal hagel-printplaten.