Elon Musk și Stephen Hawking solicită interzicerea ucigașei AI

Siri, Cortana, Google Now - au fost întotdeauna amabili cu noi. Dar viitorul inteligenței artificiale s-ar putea să nu fie atât de bun.

De aceea, Future of Life Institute tocmai a publicat un scrisoare deschisă avertizând despre pericolele AI militarizate.

Scrisoarea, care solicită interzicerea „armelor autonome ofensive”, a fost semnată de sute de experți de frunte, printre care Stephen Hawking, Elon Musk, Noam Chomsky și Steve Wozniak.

Descrie sistemele de arme autonome ca „a treia revoluție” în război, după praful de pușcă și armele nucleare.

Scrisoarea începe prin clarificarea a ceea ce face și nu constituie o armă autonomă alimentată de AI.

De exemplu, aparent, rachetele de croazieră sau dronele pilotate de la distanță în care oamenii iau decizii de direcționare nu sunt problema.

Cu toate acestea, pretinde că „quadcopterele armate” care pot căuta și ucide ținte care îndeplinesc un „criteriu predefinit” sunt un mare nu.

Scrisoarea continuă să devină lirică asupra potențialelor pericole pe care armele militare autonome le-ar putea aduce umanității.

„Spre deosebire de armele nucleare, acestea nu necesită materii prime costisitoare sau greu de obținut, așa că vor deveni omniprezente și ieftine pentru toate puterile militare semnificative pentru a le produce în masă”, se arată în acesta.

Scrisoarea continuă: „Va fi doar o chestiune de timp până când vor apărea pe piața neagră și în mâinile teroriștilor, dictatori care doresc să-și controleze mai bine populația, stăpânii războiului care doresc să comită curățenie etnică etc. Armele autonome sunt ideale pentru sarcini precum asasinarea, destabilizarea națiunilor, supunerea populațiilor și uciderea selectivă a unui anumit grup etnic. ”

Cu toate acestea, scrisoarea ridică argumente pentru utilizarea armelor autonome pe câmpul de luptă.

De exemplu, se sugerează că prin înlocuirea soldaților umani, victimele vor fi inevitabil reduse.

Cu toate acestea, scrisoarea contrazice acest lucru cu argumentul că AI militant ar reduce „pragul pentru a merge la luptă”.

Legate de: 9 moduri înfiorătoare de roboți înlocuiesc oamenii

În cele din urmă, concluzionează: „Prin urmare, credem că o cursă a înarmărilor militare AI nu ar fi benefică pentru omenire. Începerea unei curse de înarmare cu AI militare este o idee proastă și ar trebui prevenită prin interzicerea armelor autonome ofensive dincolo de controlul uman semnificativ. ”

Scrisoarea FLI va fi prezentată oficial la Conferințele Internaționale Mixte de Inteligență Artificială din Buenos Aires, pe 28 iulie.

Nu este prima dată când cei mai buni tehnologi vorbesc despre IA ucigașă. Șeful Tesla, Elon Musk, a comparat dezvoltarea AI cu „Chemarea demonului”, în timp ce cofondatorul Apple, Steve Wozniak pretins cu îndrăzneală „Computerele vor prelua controlul de la oameni, fără îndoială”.

Acest articol de știri ți-a fost adus de viitorul tău robot domn. Toate PCB-urile de grindină.