Тайните команди на Alexa, Siri и Assistant се крият в музиката?

През 70-те и 80-те години тези симпатични фундаменталистки християнски типове обвиняват Led Zeppelin, че крие сатанински послания в песента Stairway To Heaven. Те, разбира се, се чуват само когато песента се възпроизвежда назад.

Фурорът на „backmasking“, довел до масово разбиване и изгаряне на записи в църквите, звучи наистина глупаво в наши дни (както вероятно би било тогава).

След четири десетилетия обаче бихме могли да се повторим.

Превъртането напред към 2018 г. и изследванията, които твърдят, че музиката може да крие тайни команди към гласово контролираните лични асистенти в нашите свързани устройства.

Изследователи от Калифорнийския университет в Бъркли успяха да активират AI асистентите на смартфони и интелигентни високоговорители, подтиквайки ги да отварят уебсайтове или да набират телефонни номера.

Тревожното е, че учениците казват, че лошите актьори биха могли да използват скрити в музиката съобщения, за да отключат врати, да получат достъп до акаунти или да добавят елементи към списъците за пазаруване.

Свързани: Google Assistant срещу Amazon Alexa

Новият изследователски документ разглежда как командите могат да бъдат вградени в записи на музика или изговорени текстови записи, за да се манипулират постоянно слушащите асистенти като Siri, Alexa и Google Assistant.

Командите не се различават от хората, но ще бъдат погълнати от високоговорителите Echo или Home, предполага изследването.

„Искахме да видим дали можем да го направим още по-крадлив“, каза студентът по компютърна сигурност Никълъс Карлини. „Предполагам, че злонамерените хора вече наемат хора да правят това, което правя аз.“

Изследователите фокусират работата си върху това как хората и машините разпознават речта по различен начин.

Те успяха да изпълнят командата „Добре Google, сърфирайте до evil.com“ в рамките на изречената фраза „без набора от данни статията е безполезна“.

Той също така успя да вгради същата команда в рамките на четири секунди от Реквиема на Верди.

Можете да чуете аудио файловете на Уебсайт на Карлини. Опитайте колкото може, не можахме да различим разликата.

A Ню Йорк Таймс доклад обяснява как работи:

„С аудио атаки изследователите използват пропастта между разпознаването на човешка и машинна реч. Системите за разпознаване на реч обикновено превеждат всеки звук в буква, като в крайна сметка ги компилират в думи и фрази. Правейки леки промени в аудио файловете, изследователите успяха да отменят звука, който системата за разпознаване на речта предполагаше да го чуе и замени със звук, който би бил транскрибиран по различен начин от машините, като същевременно е почти неоткриваем за човека ухо."

Имайки това предвид, нарушителите могат потенциално да възпроизвеждат музика в рамките на „ухото“ на микрофона на Google Home, за да му командват да получи достъп чрез вашата интелигентна ключалка на вратата.

Amazon каза, че NYT предприема стъпки за запазване на Alexa в безопасност, докато Google казва, че Assistant има функции, които могат да смекчат команди, които не се различават от хората. Apple посочва, че HomePod не може да прави неща като отворени врати, докато iPhone трябва да се отключва, за да изпълнява определени команди на Siri.

Карлини добави: „Искаме да демонстрираме, че е възможно и след това да се надяваме, че други хора ще кажат:„ Добре, това е възможно, сега нека опитаме и поправим. “

Изключвате ли микрофоните на вашите интелигентни високоговорители, докато говорим? Или това звучи пресилено? Пуснете ни линия @TrustedReviews в Twitter