Czy tajne polecenia Alexy, Siri i Assistant są ukryte w muzyce?

W latach siedemdziesiątych i osiemdziesiątych ci ukochani fundamentalistyczni chrześcijanie oskarżali Led Zeppelin o ukrywanie satantyckich przesłań w piosence Stairway To Heaven. Te, oczywiście, były słyszalne tylko wtedy, gdy utwór był odtwarzany do tyłu.

Furia „maskowania wstecznego”, która doprowadziła do masowego niszczenia i palenia płyt w kościołach, brzmi w dzisiejszych czasach naprawdę głupio (jak pewnie by to wtedy brzmiało).

Jednak po czterech dekadach możemy spodziewać się powtórki.

Przewijamy do 2018 roku, a badania twierdzą, że muzyka może ukrywać tajne polecenia dla sterowanych głosowo osobistych asystentów w naszych połączonych urządzeniach.

Naukowcom z Uniwersytetu Kalifornijskiego w Berkeley udało się aktywować asystentów sztucznej inteligencji na smartfonach i inteligentnych głośnikach, zachęcając ich do otwierania witryn internetowych lub wybierania numerów telefonów.

Niepokojące jest to, że uczniowie twierdzą, że źli aktorzy mogą używać wiadomości ukrytych w muzyce, aby otwierać drzwi, uzyskiwać dostęp do kont lub dodawać pozycje do listy zakupów.

Związane z: Asystent Google kontra Amazon Alexa

Nowy artykuł badawczy analizuje, w jaki sposób polecenia można osadzać w nagraniach muzyki lub mówionego tekstu, aby manipulować zawsze słuchającymi asystentami, takimi jak Siri, Alexa i Asystent Google.

Badania sugerują, że polecenia nie są dostrzegalne dla ludzi, ale zostaną pochłonięte przez głośniki Echo lub Home.

„Chcieliśmy sprawdzić, czy możemy uczynić to jeszcze bardziej dyskretnym” - powiedział doktorant ds. Bezpieczeństwa komputerowego Nicholas Carlini. „Zakładam, że złośliwi ludzie już zatrudniają ludzi do robienia tego, co ja”.

Naukowcy koncentrują się na tym, jak ludzie i maszyny różnie rozpoznają mowę.

Udało im się wykonać polecenie „Dobra Google, przejdź do evil.com” w wypowiedzianej frazie „bez zbioru danych artykuł jest bezużyteczny”.

Był także w stanie osadzić to samo polecenie w czterosekundowym segmencie Requiem Verdiego.

Możesz usłyszeć pliki audio Witryna Carlini. Choć próbowaliśmy, nie mogliśmy dostrzec różnicy.

ZA New York Times raport wyjaśnia, jak to działa:

„W przypadku ataków dźwiękowych naukowcy wykorzystują lukę między rozpoznawaniem mowy ludzkiej i maszynowej. Systemy rozpoznawania mowy zazwyczaj tłumaczą każdy dźwięk na literę, ostatecznie kompilując je na słowa i frazy. Wprowadzając niewielkie zmiany w plikach audio, naukowcy byli w stanie wyeliminować dźwięk, który przypuszczalnie miał system rozpoznawania mowy usłyszeć i zastąpić dźwięk, który zostałby inaczej przepisany przez maszyny, a jednocześnie byłby prawie niewykrywalny dla człowieka ucho."

Mając to na uwadze, sprawcy mogą potencjalnie odtwarzać muzykę „w zasięgu słuchu” mikrofonu Google Home, aby nakazać mu uzyskanie dostępu przez inteligentny zamek do drzwi.

Amazon powiedział, że NYT podejmuje kroki w celu zapewnienia bezpieczeństwa Alexy, podczas gdy Google twierdzi, że Asystent ma funkcje, które mogą złagodzić polecenia, które nie są dostrzegalne dla ludzi. Apple zwraca uwagę, że HomePod nie może robić rzeczy takich jak otwieranie drzwi, podczas gdy iPhone'y muszą być odblokowane, aby wykonywać niektóre polecenia Siri.

Carlini dodał: „Chcemy pokazać, że jest to możliwe, a następnie mamy nadzieję, że inni ludzie powiedzą:„ OK, to możliwe, teraz spróbujmy to naprawić ”.

Czy podczas rozmowy wyłączasz mikrofony na swoich smartych głośnikach? A może brzmi to naciągane? Napisz do nas @TrustedReviews na Twitterze