¿Los comandos secretos de Alexa, Siri y Assistant se esconden dentro de la música?

En las décadas de 1970 y 1980, esos adorables tipos cristianos fundamentalistas acusaron a Led Zeppelin de ocultar mensajes satánicos en la canción Stairway To Heaven. Estos, por supuesto, solo eran audibles cuando la pista se reproducía al revés.

El furor de la "máscara de espalda", que llevó a la destrucción masiva y la quema de discos en las iglesias, suena realmente tonto en estos días (como probablemente lo habría hecho entonces).

Sin embargo, cuatro décadas después, podríamos tener una actuación repetida.

Avance rápido hasta 2018 e investigaciones que afirman que la música podría estar ocultando comandos secretos a los asistentes personales controlados por voz dentro de nuestros dispositivos conectados.

Investigadores de la Universidad de California en Berkeley pudieron activar los asistentes de inteligencia artificial en teléfonos inteligentes y parlantes inteligentes, lo que los llevó a abrir sitios web o marcar números de teléfono.

De manera preocupante, los estudiantes dicen que los malos actores podrían usar mensajes ocultos dentro de la música para abrir puertas, acceder a cuentas o agregar artículos a las listas de compras.

Relacionado: Asistente de Google vs Amazon Alexa

El nuevo trabajo de investigación analiza cómo los comandos podrían integrarse en grabaciones de música o texto hablado, para manipular a los asistentes que siempre escuchan como Siri, Alexa y el Asistente de Google.

Los comandos no son discernibles para los humanos, pero serán devorados por los altavoces Echo o Home, sugiere la investigación.

"Queríamos ver si podíamos hacerlo aún más sigiloso", dijo el estudiante de doctorado en seguridad informática Nicholas Carlini. "Mi suposición es que las personas malintencionadas ya emplean a personas para que hagan lo que yo hago".

Los investigadores están centrando su trabajo en cómo los humanos y las máquinas reconocen el habla de manera diferente.

Pudieron ejecutar el comando "Ok Google, navega a evil.com" dentro de la frase hablada "sin el conjunto de datos, el artículo es inútil".

También fue capaz de insertar el mismo comando en un segmento de cuatro segundos del Réquiem de Verdi.

Puede escuchar los archivos de audio en Sitio web de Carlini. Por más que lo intentáramos, no pudimos discernir la diferencia.

A New York Times informe explica cómo funciona:

“Con los ataques de audio, los investigadores están aprovechando la brecha entre el reconocimiento de voz humano y el de la máquina. Los sistemas de reconocimiento de voz generalmente traducen cada sonido a una letra, y eventualmente los compilan en palabras y frases. Al realizar pequeños cambios en los archivos de audio, los investigadores pudieron cancelar el sonido que se suponía que tenía el sistema de reconocimiento de voz. para escucharlo y reemplazarlo con un sonido que sería transcrito de manera diferente por las máquinas y que sería casi indetectable para el ser humano oído."

Teniendo esto en cuenta, los malhechores podrían reproducir música al "alcance del oído" del micrófono de un Google Home para ordenarle que acceda a través de la cerradura inteligente de la puerta.

Amazon le dijo al NYT que toma medidas para mantener a Alexa segura, mientras que Google dice que el Asistente tiene funciones que pueden mitigar los comandos que no son discernibles para los humanos. Apple señala que HomePod no puede hacer cosas como abrir puertas, mientras que los iPhones deben desbloquearse para ejecutar ciertos comandos de Siri.

Carlini agregó: "Queremos demostrar que es posible y luego esperamos que otras personas digan: 'Está bien, esto es posible, ahora intentemos solucionarlo'".

¿Estás apagando los micrófonos de tus parlantes inteligentes mientras hablamos? ¿O suena descabellado? Envíenos un mensaje @TrustedReviews en Twitter