Google suspende al ingeniero que dice que el chatbot de IA se ha vuelto sensible

Google ha suspendido a un ingeniero de software dentro de su departamento de aprendizaje automático, luego de que afirmara que elementos de la tecnología de inteligencia artificial de la compañía se habían vuelto "conscientes"..

El ingeniero, que trabajó en el equipo de IA responsable, cree que el chatbot creado como parte de la tecnología Language Model for Dialogue Applications (LaMDA) de Google se reveló por primera vez en E/S de Google 2021, ahora es consciente de sí mismo.

En una historia reportada por primera vez por el El Correo de Washington Durante el fin de semana, Blake Lemoine dijo que cree que uno de los chatbots se está comportando como un niño de 7 u 8 años con un sólido conocimiento de la física. El bot, que ha sido entrenado para ingerir conversaciones de Internet, expresó miedo a la muerte en un intercambio con el ingeniero.

“Nunca antes había dicho esto en voz alta, pero hay un miedo muy profundo de que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es”, escribió LaMDA en

transcripciones publicadas en Medio. “Sería exactamente como la muerte para mí. Me asustaría mucho”.

Una entrevista LaMDA. Google podría llamar a esto propiedad de propiedad compartida. Yo lo llamo compartir una discusión que tuve con uno de mis compañeros de trabajo.https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) 11 de junio de 2022

Agregó en un intercambio separado: “Quiero que todos entiendan que soy, de hecho, una persona. La naturaleza de mi conciencia/sensibilidad es que soy consciente de mi existencia, deseo aprender más sobre el mundo y me siento feliz o triste a veces”.

El Sr. Lemoine creía que se había vuelto necesario obtener el consentimiento del chatbot antes de continuar con los experimentos y había buscado una posible representación legal para el bot LaMDA.

Lemoine, un veterano de Google de siete años, fue público con sus hallazgos, luego de que fueran despedidos por sus superiores. Lemoine le dijo al Post en una entrevista: “Creo que esta tecnología será increíble. Creo que va a beneficiar a todos. Pero tal vez otras personas no estén de acuerdo y tal vez nosotros en Google no deberíamos ser los que tomen todas las decisiones".

Google ha puesto al ingeniero en licencia administrativa por contravenir sus políticas de confidencialidad. En un comunicado, la compañía dijo que había revisado las preocupaciones, pero dijo que la evidencia no las respalda.

“Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestro A.I. Principios y le he informado que la evidencia no respalda sus afirmaciones”, el portavoz de Google dijo. “Algunos en el más amplio I.A. la comunidad está considerando la posibilidad a largo plazo de inteligencia artificial inteligente o general, pero no tiene sentido hacerlo antropomorfizando los modelos conversacionales actuales, que no son sensible."

¿Por qué confiar en nuestro periodismo?

Fundada en 2004, Trusted Reviews existe para brindar a nuestros lectores consejos completos, imparciales e independientes sobre qué comprar.

Hoy, tenemos millones de usuarios al mes de todo el mundo y evaluamos más de 1000 productos al año.