Gizli Alexa, Siri ve Assistant komutları müziğin içinde mi saklanıyor?
1970'lerde ve 1980'lerde bu sevimli köktendinci Hıristiyan tipler, Led Zeppelin'i Stairway To Heaven şarkısında Satantic mesajlarını saklamakla suçladılar. Bunlar, elbette, yalnızca parça geriye doğru çalındığında duyulabilir.
Kiliselerde kayıtların toplu olarak parçalanmasına ve yakılmasına neden olan "arka maske" korkusu, bugünlerde kulağa çok saçma geliyor (muhtemelen o zamanki gibi).
Bununla birlikte, kırk yıl sonra, tekrar eden bir performansa girebilirdik.
2018'e ileri sarıldı ve müziğin, bağlı cihazlarımızdaki ses kontrollü kişisel asistanlara gizli komutları saklayabileceğini iddia eden araştırmalar.
California Üniversitesi, Berkeley'deki araştırmacılar, akıllı telefonlarda ve akıllı hoparlörlerde yapay zeka asistanlarını etkinleştirerek, web sitelerini açmalarını veya telefon numaralarını çevirmelerini sağladı.
Endişe verici bir şekilde, öğrenciler kötü oyuncuların kapıları açmak, hesaplara erişmek veya alışveriş listelerine ürün eklemek için müzik içinde gizli mesajları kullanabileceğini söylüyor.
İlişkili: Google Asistan ve Amazon Alexa
Yeni araştırma makalesi, Siri, Alexa ve Google Assistant gibi her zaman dinleyen asistanları manipüle etmek için komutların müziğe veya sözlü metin kayıtlarına nasıl yerleştirilebileceğini araştırıyor.
Araştırmaya göre, komutlar insanlar tarafından farkedilemez, ancak Yankı veya Ana hoparlörler tarafından yutulacak.
Doktora bilgisayar güvenliği öğrencisi Nicholas Carlini, "Bunu daha da gizli hale getirip getiremeyeceğimizi görmek istedik," dedi. "Benim varsayımım, kötü niyetli insanların yaptığım şeyi yapmak için zaten insanları istihdam ettiği yönünde."
Araştırmacılar çalışmalarını, insanların ve makinelerin konuşmayı nasıl farklı şekilde tanıdığına odaklıyorlar.
"Tamam Google, evil.com'a göz atın" komutunu "veri kümesi olmadan makale işe yaramaz" sözlü ifade içinde çalıştırmayı başardılar.
Aynı komutu Verdi’nin Requiem’inin dört saniyelik bir bölümüne de yerleştirebildi.
Ses dosyalarını şuradan duyabilirsiniz: Carlini’nin web sitesi. Elimizden geldiğince deneyin, farkı anlayamadık.
Bir New York Times rapor nasıl çalıştığını açıklıyor:
“Sesli saldırılarla, araştırmacılar insan ve makine konuşma tanıma arasındaki boşluğu kullanıyorlar. Konuşma tanıma sistemleri tipik olarak her sesi bir harfe çevirir ve sonunda bunları sözcüklere ve ifadelere derler. Araştırmacılar, ses dosyalarında küçük değişiklikler yaparak, konuşma tanıma sisteminin varsaydığı sesi iptal edebildiler. İnsan tarafından neredeyse algılanamazken makineler tarafından farklı şekilde kopyalanacak bir sesle duymak ve değiştirmek kulak."
Bunu akılda tutarak, yanlış yapanlar, akıllı kapı kilidinizden erişim elde etmesini sağlamak için Google Home'un mikrofonunun "kulak mesafesi" içinde potansiyel olarak müzik çalabilir.
Amazon, NYT'nin Alexa'yı güvende tutmak için adımlar attığını söyledi, Google ise Asistan'ın insanlar tarafından farkedilemeyen komutları hafifletebilecek özelliklere sahip olduğunu söyledi. Apple, HomePod'un açık kapılar gibi şeyleri yapamayacağına, bazı Siri komutlarını yürütmek için iPhone'ların kilidinin açılması gerektiğine işaret ediyor.
Carlini şunları ekledi: "Bunun mümkün olduğunu göstermek istiyoruz ve ardından diğer insanların" Tamam bu mümkün, şimdi deneyip düzeltelim "demesini umuyoruz."
Biz konuşurken, akıllı hoparlörlerinizin mikrofonlarını kapatıyor musunuz? Yoksa bu kulağa aşırı mı geliyor? Twitter'da @TrustedReviews bize yazın
