Elon Musk og Stephen Hawking etterlyser forbud mot morder AI

Siri, Cortana, Google Nå - de har alltid vært snille mot oss. Men fremtiden for kunstig intelligens er kanskje ikke så godmodig.

Derfor har Future of Life Institute nettopp gitt ut en åpent brev advarsel om farene ved militarisert AI.

Brevet, som krever et forbud mot "offensive autonomous våpen", har blitt undertegnet av hundrevis av ledende eksperter, inkludert Stephen Hawking, Elon Musk, Noam Chomsky og Steve Wozniak.

Den beskriver autonome våpensystemer som den ”tredje revolusjonen” i krigføring etter krutt og atomvåpen.

Brevet begynner med å avklare hva som gjør, og ikke utgjør et autonomt AI-drevet våpen.

For eksempel er ikke kryssermissiler eller fjernstyrte droner der mennesker tar målrettingsbeslutninger, ikke problemet her.

Imidlertid hevder det at "væpnede quadcopters" som kan søke og drepe mål som oppfyller et "forhåndsdefinerte kriterium" er et stort nei-nei.

Brevet fortsetter å vokse lyrisk om de potensielle farene som militariserte autonome våpen kan utgjøre for menneskeheten.

"I motsetning til atomvåpen krever de ingen kostbare eller vanskelig tilgjengelige råvarer, så de vil bli allestedsnærværende og billige for alle viktige militære makter å masseprodusere," heter det.

Brevet fortsetter: “Det vil bare være et spørsmål om tid til de vises på det svarte markedet og i hendene på terrorister, diktatorer som ønsker å kontrollere befolkningen bedre, krigsherrer som ønsker å utføre etnisk rensing, etc. Autonome våpen er ideelle for oppgaver som attentater, destabiliserende nasjoner, å underkaste befolkninger og selektivt drepe en bestemt etnisk gruppe. ”

Brevet reiser imidlertid argumenter for bruk av autonome våpen på slagmarken.

For eksempel foreslås det at ulykken uunngåelig vil reduseres ved å erstatte menneskelige soldater.

Imidlertid motvirker brevet dette med argumentet om at militant AI vil senke "terskelen for å gå til kamp".

I slekt: 9 skumle måter roboter erstatter mennesker på

Den konkluderer til slutt: “Vi mener derfor at et militært AI-våpenkappløp ikke vil være gunstig for menneskeheten. Å starte et militært AI-våpenkappløp er en dårlig idé, og bør forhindres av et forbud mot støtende autonome våpen utenfor meningsfull menneskelig kontroll. ”

FLIs brev vil bli offisielt presentert på International Joint Conferences on Artificial Intelligence i Buenos Aires 28. juli.

Dette er ikke første gang techs fineste snakker om morder AI. Tesla-sjef Elon Musk sammenlignet AI-utvikling med “Innkalle demon”, mens Apple medstifter Steve Wozniak påstått dristig “Datamaskiner kommer til å ta over fra mennesker, ingen tvil”.

Denne nyhetsartikkelen ble brakt til deg av din fremtidige robotoverherre. Alle hagl-PCB.