Elon Musk y Stephen Hawking piden la prohibición de la IA asesina
Siri, Cortana, Google Now: siempre han sido amables con nosotros. Pero el futuro de la inteligencia artificial podría no ser tan bondadoso.
Es por eso que el Future of Life Institute acaba de publicar un carta abierta advirtiendo sobre los peligros de la IA militarizada.
La carta, que pide la prohibición de las “armas autónomas ofensivas”, ha sido firmada por cientos de destacados expertos, incluidos Stephen Hawking, Elon Musk, Noam Chomsky y Steve Wozniak.
Describe los sistemas de armas autónomos como la "tercera revolución" en la guerra, después de la pólvora y las armas nucleares.
La carta comienza aclarando qué es y qué no constituye un arma autónoma impulsada por IA.
Por ejemplo, los misiles de crucero o los drones piloteados de forma remota en los que los humanos toman decisiones de orientación no son el problema aquí, aparentemente.
Sin embargo, afirma que los "cuadricópteros armados" que pueden buscar y matar objetivos que cumplen con un "criterio predefinido" son un gran no-no.
La carta se vuelve lírica sobre los peligros potenciales que el armamento autónomo militarizado podría representar para la humanidad.
"A diferencia de las armas nucleares, no requieren materias primas costosas o difíciles de obtener, por lo que se volverán ubicuas y baratas para que todas las potencias militares importantes las produzcan en masa", se lee.
La carta continúa: "
Sin embargo, la carta plantea argumentos para el uso de armamento autónomo en el campo de batalla.
Por ejemplo, se sugiere que al reemplazar a los soldados humanos, inevitablemente se reducirán las bajas.
Sin embargo, la carta contrarresta esto con el argumento de que la IA militante reduciría el "umbral para ir a la batalla".
Relacionado: 9 formas espeluznantes en que los robots están reemplazando a los humanos
En última instancia, concluye: “Por lo tanto, creemos que una carrera de armamentos de IA militar no sería beneficiosa para la humanidad. Iniciar una carrera de armamentos de IA militar es una mala idea y debería evitarse mediante la prohibición de las armas autónomas ofensivas más allá del control humano significativo ".
La carta de la FLI será presentada oficialmente en las Conferencias Internacionales Conjuntas sobre Inteligencia Artificial en Buenos Aires el 28 de julio.
Esta no es la primera vez que los mejores técnicos se pronuncian sobre la IA asesina. El jefe de Tesla, Elon Musk, comparó el desarrollo de la IA con "Convocando al demonio", mientras que el cofundador de Apple, Steve Wozniak audazmente reclamado “Las computadoras van a tomar el relevo de los humanos, no hay duda”.
Este artículo de noticias se lo trajo su futuro señor supremo de los robots. Todos saludan a los PCB.