Zijn geheime Alexa-, Siri- en Assistant-commando's verborgen in muziek?
In de jaren zeventig en tachtig beschuldigden die sympathieke fundamentalistische christelijke types Led Zeppelin ervan Satantische boodschappen te verbergen in het nummer Stairway To Heaven. Deze waren natuurlijk alleen hoorbaar als de track achterstevoren werd afgespeeld.
De 'backmasking'-furore, die leidde tot het massaal vernielen en verbranden van platen in kerken, klinkt tegenwoordig echt dom (zoals het waarschijnlijk toen zou hebben gedaan).
Vier decennia later zouden we echter een herhaling kunnen verwachten.
Snel vooruit naar 2018 en onderzoek waarin wordt beweerd dat muziek geheime opdrachten kan verbergen voor de spraakgestuurde persoonlijke assistenten op onze verbonden apparaten.
Onderzoekers van de University of California, Berkeley waren in staat om de AI-assistenten op smartphones en slimme luidsprekers te activeren en hen ertoe aan te zetten websites te openen of telefoonnummers te kiezen.
Het is zorgwekkend dat de studenten zeggen dat de slechte acteurs berichten kunnen gebruiken die verborgen zijn in muziek om deuren te ontgrendelen, toegang te krijgen tot accounts of items aan boodschappenlijstjes toe te voegen.
Verwant: Google Assistent versus Amazon Alexa
Het nieuwe onderzoekspaper onderzoekt hoe de commando's kunnen worden ingebed in muziek- of gesproken tekstopnames, om de altijd luisterende assistenten zoals Siri, Alexa en Google Assistant te manipuleren.
De commando's zijn niet waarneembaar voor mensen, maar zullen worden opgeslokt door de Echo- of Home-luidsprekers, suggereert het onderzoek.
"We wilden zien of we het nog heimelijker konden maken", zei PhD-student computerbeveiliging Nicholas Carlini. "Mijn veronderstelling is dat de kwaadwillende mensen al mensen in dienst hebben om te doen wat ik doe."
De onderzoekers richten zich in hun werk op hoe mensen en machines spraak anders herkennen.
Ze waren in staat om het commando 'Oké Google, blader naar evil.com' uit te voeren binnen de gesproken zin 'zonder de dataset is het artikel nutteloos'.
Het was ook in staat om dezelfde opdracht in te bedden in een segment van vier seconden van Verdi's Requiem.
U kunt de audiobestanden horen op Carlini's website. Hoe we het ook mochten proberen, we konden het verschil niet onderscheiden.
EEN New York Times rapport legt uit hoe het werkt:
“Met audio-aanvallen maken de onderzoekers gebruik van de kloof tussen menselijke en automatische spraakherkenning. Spraakherkenningssystemen vertalen elk geluid doorgaans naar een letter en compileren die uiteindelijk in woorden en zinsdelen. Door kleine wijzigingen aan te brengen in audiobestanden, konden onderzoekers het geluid dat het spraakherkenningssysteem veronderstelde, teniet doen om het te horen en te vervangen door een geluid dat anders zou worden getranscribeerd door machines terwijl het bijna niet detecteerbaar is voor de mens oor."
Met dit in gedachten kunnen boosdoeners mogelijk muziek afspelen binnen ‘gehoorsafstand’ van de microfoon van een Google Home om deze toegang te geven via uw slimme deurslot.
Amazon vertelde de NYT dat het stappen onderneemt om Alexa veilig te houden, terwijl Google zegt dat Assistant functies heeft die commando's kunnen verzachten die niet waarneembaar zijn voor mensen. Apple wijst erop dat HomePod geen dingen kan doen zoals deuren openen, terwijl iPhones moeten worden ontgrendeld om bepaalde Siri-opdrachten uit te voeren.
Carlini voegde toe: "We willen laten zien dat het mogelijk is en hopen dan dat andere mensen zullen zeggen:‘ Oké, dit is mogelijk, laten we het nu proberen te repareren. ''
Zet je op dit moment de microfoons van je slimme luidsprekers uit? Of klinkt dit vergezocht? Stuur ons een bericht @TrustedReviews op Twitter
