Elon Musk och Stephen Hawking kräver förbud mot mördaren AI

Siri, Cortana, Google Nu - de har alltid varit vänliga mot oss. Men framtiden för artificiell intelligens kanske inte är så godmodig.

Därför har Future of Life Institute just publicerat en öppet brev varnar för farorna med militariserad AI.

Brevet, som kräver ett förbud mot ”stötande autonoma vapen”, har undertecknats av hundratals ledande experter, inklusive Stephen Hawking, Elon Musk, Noam Chomsky och Steve Wozniak.

Den beskriver autonoma vapensystem som den ”tredje revolutionen” i krigföring, efter krut och kärnvapen.

Brevet börjar med att klargöra vad som gör, och inte utgör ett autonomt AI-vapen.

Till exempel är kryssningsmissiler eller fjärrstyrda drönare där människor fattar riktade beslut inte problemet här, uppenbarligen.

Det hävdar emellertid att "beväpnade fyrhjulingar" som kan söka och döda mål som uppfyller ett "fördefinierat kriterium" är ett stort nej-nej.

Brevet fortsätter att vaxa lyriskt om de potentiella faror som militariserat autonomt vapen kan utgöra för mänskligheten.

"Till skillnad från kärnvapen kräver de inga kostsamma eller svåråtkomliga råvaror, så de kommer att bli allestädes närvarande och billiga för alla viktiga militära makter att massproducera", står det.

Brevet fortsätter: ”Det kommer bara att vara en tidsfråga tills de dyker upp på den svarta marknaden och i händerna på terroristerdiktatorer som vill kontrollera sin befolkning bättre, krigsherrar som vill utföra etnisk rening etc. Autonoma vapen är idealiska för uppgifter som attentat, destabilisera nationer, underkasta befolkningar och selektivt döda en viss etnisk grupp. ”

Brevet väcker emellertid argument för användningen av autonoma vapen på slagfältet.

Det föreslås till exempel att olyckan oundvikligen kommer att minskas genom att ersätta mänskliga soldater.

Men brevet motverkar detta med argumentet att militant AI skulle sänka ”tröskeln för att gå till strid”.

Relaterad: 9 läskiga sätt som robotar ersätter människor

Det avslutar slutligen: ”Vi tror därför att ett militärt AI-vapenlopp inte skulle vara till nytta för mänskligheten. Att starta ett militärt AI-vapenlopp är en dålig idé och bör förhindras av ett förbud mot stötande autonoma vapen som inte är meningsfulla mänskliga kontroller. ”

FLI: s brev kommer att presenteras officiellt vid de internationella gemensamma konferenserna om artificiell intelligens i Buenos Aires den 28 juli.

Det här är inte första gången teknikens bästa talar om killer AI. Tesla-chef Elon Musk jämförde AI-utveckling med "Kallar han demon", medan Apple grundare Steve Wozniak hävdade djärvt ”Datorer kommer att ta över från människor, ingen tvekan”.

Denna nyhetsartikel kom till dig av din framtida robotöverherre. Alla hagel-PCB.