Elon Musk e Stephen Hawking pedem proibição de IA assassina

Siri, Cortana, Google Now - eles sempre foram gentis conosco. Mas o futuro da inteligência artificial pode não ser tão bom.

É por isso que o Instituto Futuro da Vida acaba de publicar um carta aberta alerta sobre os perigos da IA ​​militarizada.

A carta, que pede a proibição de “armas autônomas ofensivas”, foi assinada por centenas de especialistas importantes, incluindo Stephen Hawking, Elon Musk, Noam Chomsky e Steve Wozniak.

Ele descreve os sistemas de armas autônomas como a “terceira revolução” na guerra, depois da pólvora e das armas nucleares.

A carta começa esclarecendo o que constitui e não constitui uma arma autônoma movida a IA.

Por exemplo, mísseis de cruzeiro ou drones pilotados remotamente onde humanos tomam decisões de alvos não são o problema aqui, aparentemente.

No entanto, afirma que “quadricópteros armados” que podem pesquisar e matar alvos que atendem a “critérios predefinidos” são um grande problema.

A carta continua a ser lírica sobre os perigos potenciais que o armamento autônomo militarizado pode representar para a humanidade.

“Ao contrário das armas nucleares, elas não requerem matérias-primas caras ou difíceis de obter, então se tornarão onipresentes e baratas para que todas as potências militares importantes produzam em massa”, diz o documento.

A carta continua: “Será apenas uma questão de tempo até que apareçam no mercado negro e nas mãos de terroristas, ditadores que desejam controlar melhor sua população, senhores da guerra que desejam perpetrar a limpeza étnica, etc. Armas autônomas são ideais para tarefas como assassinatos, desestabilizar nações, subjugar populações e matar seletivamente um determinado grupo étnico. ”

A carta, no entanto, levanta argumentos para o uso de armamento autônomo no campo de batalha.

Por exemplo, é sugerido que, ao substituir soldados humanos, as baixas serão inevitavelmente reduzidas.

No entanto, a carta responde a isso com o argumento de que a IA militante diminuiria o “limite para ir para a batalha”.

Relacionado: 9 formas assustadoras de robôs estão substituindo humanos

Em última análise, conclui: “Portanto, acreditamos que uma corrida armamentista IA militar não seria benéfica para a humanidade. Começar uma corrida armamentista de IA militar é uma má ideia e deve ser evitado pela proibição de armas autônomas ofensivas além do controle humano significativo. ”

A carta do FLI será apresentada oficialmente nas Conferências Conjuntas Internacionais de Inteligência Artificial em Buenos Aires em 28 de julho.

Esta não é a primeira vez que os melhores da tecnologia falam sobre IA matadora. Elon Musk, chefe da Tesla, comparou o desenvolvimento de IA com “Convocando o demônio”, enquanto o cofundador da Apple Steve Wozniak corajosamente reivindicado “Os computadores vão assumir o lugar dos humanos, sem dúvida”.

Este artigo de notícias foi trazido a você por seu futuro overlord robô. Todos saudam PCBs.