Elon Musk dan Stephen Hawking menyerukan larangan AI pembunuh

Siri, Cortana, Google Now - mereka selalu baik kepada kami. Tapi masa depan kecerdasan buatan mungkin tidak begitu baik.

Itulah mengapa Future of Life Institute baru saja menerbitkan surat Terbuka peringatan tentang bahaya AI yang dimiliterisasi.

Surat tersebut, yang menyerukan pelarangan "senjata otonom ofensif", telah ditandatangani oleh ratusan ahli terkemuka, termasuk Stephen Hawking, Elon Musk, Noam Chomsky, dan Steve Wozniak.

Ini menggambarkan sistem senjata otonom sebagai "revolusi ketiga" dalam peperangan, setelah mesiu dan senjata nuklir.

Surat itu dimulai dengan menjelaskan apa yang dilakukannya, dan bukan merupakan senjata bertenaga AI yang otonom.

Misalnya, rudal jelajah atau drone yang diujicobakan dari jarak jauh tempat manusia membuat keputusan penargetan tampaknya tidak menjadi masalah di sini.

Namun, ia mengklaim "quadcopters bersenjata" yang dapat mencari dan membunuh target yang memenuhi "kriteria yang telah ditentukan" adalah sangat tidak-tidak.

Surat itu melanjutkan dengan liris tentang potensi bahaya yang dapat ditimbulkan oleh persenjataan otonom militer terhadap umat manusia.

"Tidak seperti senjata nuklir, senjata ini tidak memerlukan bahan mentah yang mahal atau sulit didapat, sehingga senjata ini akan ada di mana-mana dan murah untuk diproduksi secara massal oleh semua kekuatan militer yang signifikan," bunyi pernyataan itu.

Surat itu melanjutkan: "Hanya masalah waktu sampai mereka muncul di pasar gelap dan di tangan teroris, diktator yang ingin mengontrol rakyatnya dengan lebih baik, panglima perang yang ingin melakukan pembersihan etnis, dll. Senjata otonom ideal untuk tugas-tugas seperti pembunuhan, negara yang tidak stabil, menundukkan populasi, dan secara selektif membunuh kelompok etnis tertentu. "

Namun, surat itu menimbulkan argumen untuk penggunaan persenjataan otonom di medan perang.

Misalnya, disarankan bahwa dengan mengganti tentara manusia, korban jiwa pasti akan berkurang.

Namun, surat itu membantahnya dengan argumen bahwa AI militan akan menurunkan "ambang batas untuk pergi berperang".

Terkait: 9 cara menyeramkan robot menggantikan manusia

Akhirnya menyimpulkan: “Oleh karena itu kami percaya bahwa perlombaan senjata AI militer tidak akan bermanfaat bagi umat manusia. Memulai perlombaan senjata AI militer adalah ide yang buruk, dan harus dicegah dengan larangan senjata otonom ofensif di luar kendali manusia yang berarti. "

Surat FLI akan secara resmi dipresentasikan pada Konferensi Bersama Internasional tentang Kecerdasan Buatan di Buenos Aires pada 28 Juli.

Ini bukan pertama kalinya para ahli teknologi berbicara tentang AI yang mematikan. Bos Tesla Elon Musk membandingkan pengembangan AI dengan "Memanggil dia iblis", sedangkan salah satu pendiri Apple, Steve Wozniak diklaim dengan berani “Komputer akan mengambil alih dari manusia, tidak diragukan lagi”.

Artikel berita ini dipersembahkan oleh tuan robot masa depan Anda. Semua menjalankan PCB.