Elons Musks un Stīvens Hokings aicina aizliegt slepkavu AI

Siri, Cortana, Google tagad - viņi vienmēr ir bijuši laipni pret mums. Bet mākslīgā intelekta nākotne varētu nebūt tik labsirdīga.

Tāpēc Dzīves nākotnes institūts tikko publicēja atklāta vēstule brīdinot par militarizētā AI bīstamību.

Vēstuli, kurā aicināts aizliegt “aizskarošus autonomos ieročus”, parakstījuši simtiem vadošo ekspertu, tostarp Stīvens Hokings, Elons Musks, Noams Čomskis un Stīvs Vozņaks.

Tajā autonomās ieroču sistēmas tiek raksturotas kā “trešā revolūcija” karadarbībā pēc šaujampulvera un kodolieročiem.

Vēstule sākas ar skaidrojumu, kas notiek, un nav uzskatāms par autonomu ar AI darbināmu ieroci.

Piemēram, acīmredzot šeit nav jautājums par spārnotajām raķetēm vai attālināti pilotējamiem bezpilota lidaparātiem, kur cilvēki pieņem mērķauditorijas atlases lēmumus.

Tomēr tā apgalvo, ka “bruņoti kvadrokopteri”, kas var meklēt un nogalināt mērķus, kas atbilst “iepriekš noteiktiem kritērijiem”, ir liels nē.

Vēstule turpina kļūt liriska par iespējamām briesmām, ko militarizētie autonomie ieroči varētu radīt cilvēcei.

"Atšķirībā no kodolieročiem tiem nav nepieciešamas dārgas vai grūti iegūstamas izejvielas, tāpēc tie kļūs visuresoši un lēti visām nozīmīgajām militārajām lielvalstīm masveidā ražot," teikts.

Vēstule turpinās: “Būs tikai laika jautājums, līdz viņi parādīsies melnajā tirgū un teroristu rokās, diktatori, kas vēlas labāk kontrolēt savu tautu, karavadoņi, kas vēlas veikt etnisko tīrīšanu utt. Autonomie ieroči ir ideāli piemēroti tādiem uzdevumiem kā slepkavības, tautu destabilizēšana, iedzīvotāju pakļaušana un selektīva noteiktas etniskās grupas nogalināšana. ”

Vēstulē tomēr izvirzīti argumenti par autonomu ieroču izmantošanu kaujas laukā.

Piemēram, tiek ieteikts, nomainot cilvēku karavīrus, neizbēgami samazināsies upuru skaits.

Tomēr vēstule to atspēko ar argumentu, ka kaujinieku mākslīgais intelekts pazeminātu “kaujas došanās slieksni”.

Saistīts: 9 rāpojoši veidi, kā roboti aizstāj cilvēkus

Tajā galu galā tiek secināts: “Tāpēc mēs uzskatām, ka militārā mākslīgā bruņošanās sacensība cilvēcei nebūtu izdevīga. Sākt militāru AI bruņošanās sacensību ir slikta ideja, un to vajadzētu novērst, aizliedzot aizskarošus autonomus ieročus, kurus cilvēks nespēj kontrolēt. "

FLI vēstule tiks oficiāli prezentēta Starptautiskajās kopīgajās mākslīgā intelekta konferencēs Buenosairesā 28. jūlijā.

Šī nav pirmā reize, kad tehnoloģiju izcilākie cilvēki runā par killer AI. Tesla boss Elons Musks salīdzināja AI attīstību ar "Izsaucot dēmonu", savukārt Apple līdzdibinātājs Stīvs Vozņaks drosmīgi apgalvoja "Datori pārņems cilvēku, nav šaubu".

Šo ziņu rakstu jums atnesa jūsu nākotnes robotu virsnieks. Visi krusa PCB.