Ansiktsigenkänning är skrämmande - och det är här för att stanna

Ansiktsigenkänning är en avancerad teknik som rullas ut över nästan alla plattformar du kan tänka dig.

I konsumentutrymmet använder allt från bärbara datorer till mobiltelefoner och till och med smarta hemsystem tekniken för att identifiera sina användare och agera därefter.

Å ena sidan är dessa funktioner utmärkta tidsbesparare - även om det är lite fina Windows Hello är ett bekvämt lite teknik som gör det snabbt och enkelt att låsa upp din bärbara dator utan att behöva komma ihåg och ange komplexa lösenord.

I myndigheter och företag gör det också vågor med polisstyrkor som använder det för att upptäcka och arrestera brottslingar och företag försöker hitta sätt att använda det för att göra saker som att identifiera återvändande kunder. Det finns också forskning om lönsamheten att använda tekniken för saker som att göra betalningar och checka in flyg på flygplatser - vilket skulle göra båda processerna betydligt mindre krångliga - och hälso- och sjukvård, där du möter kan skannas för tidiga tecken på sjukdom.

Men under den glänsande faner av bekvämlighet finns det en bestämd mörk sida som är direkt skrämmande och har potential att missbrukas av nyfikna regeringar och identitetstjuvar som gör det bättre. Vad mer, tack vare det vänliga ansikte som företagen använder tekniken, saknar de flesta konsumenterna farorna och riskerar medvetet.

Relaterad: Bästa VPN

Detta visades senast i ett fall som rör IBM och ett påstådd missbruk av tekniken under en Flickr ”Mångfald i ansikten”Rättegång den demoed i januari. Försöket såg företaget använda en anpassad AI för att analysera och beskriva insamling av 99,2 miljoner miljoner bilder tagna från plattformen.

Tanken var att AI kunde utbildas för att exakt identifiera ett mer varierat ansiktsområde och undvika falska positiva eller oavsiktliga fördomar utveckla inom igenkänningssystem - ett känt problem som har fått vissa kommentatorer att ifrågasätta om tekniken är lämplig för användning enligt lag tillämpning.

Frågan är, enligt NBC-nyheterna, det IBM begärde inte tillstånd att använda bilderna från Flickr, fotograferna eller personerna som är inblandade. Uteslutande hur störande detta är i första hand, vad som gör det riktigt skrämmande är att det, enligt uttalande från IBM till Trusted Reviews, agerade helt inom lagens bokstav.

”Vi tar privatliv för individer mycket seriöst och har tagit stor hänsyn till att följa sekretessprinciper, inklusive att begränsa Diversity in Faces dataset till offentligt tillgängliga bildanmärkningar och begränsa tillgången till dataset till verifierade forskare, ”läser påstående.

”Individer kan välja bort denna dataset. IBM har åtagit sig att bygga ansvarsfull, rättvis och pålitlig teknik i mer än ett sekel och anser att det är viktigt att sträva efter rättvisa och noggrannhet i ansiktsigenkänning. ”

Detta visar ett viktigt problem med konsumenternas attityd till AI: vi är fortfarande villiga att spela snabbt och lös med vilken personlig information och information vi lägger ut online.

Som noterats av Kaspersky Labs främsta säkerhetsforskare David Emm:

”Denna teknik innebär också betydande integritetsrisker. Varje individ har rätt att veta vem som använder våra uppgifter och hur de gör det. De flesta känner inte till de risker de möter online - eller värdet av deras personliga information. "

Han fortsatte:

”Forskning som vi genomförde förra året med 7 000 konsumenter i hela Europa visade att nästan två tredjedelar (64%) av människor inte kände till alla platser där deras personuppgifter lagrades. Dessutom vet hälften (50%) inte hur mycket deras data är värd. ”

Detta gäller särskilt när man överväger att ansiktsigenkänningstekniken redan testas aktivt av brottsbekämpning i Storbritannien.

Södra Wales polisstyrka har testat ansiktsigenkänningsteknologi från Japans NEC-grupp i Cardiff. Rättegången pågår nu och använder stadens CCTV-nätverk och kameror monterade på polisbilar och skåpbilar för att övervaka och identifiera eftersökta brottslingar och misstänkta.

I Cardiff-rättegången fungerar tekniken lite annorlunda än den typ som IBM gjorde. Det borde bara referera till data som tagits från styrkorns arkiv och fångade brottslistor. Detta lindrar alla farhågor om polisen som använder data från sociala medier, men här är vi fulla cirkel och tillbaka till den ursprungliga anledningen till att IBM ville köra Diversity of Faces-försöket i den första plats.

Relaterad: Bästa gratis antivirus

Som Kasperskys Emm noterade kan nätverket inte lita på utan en så mångsidig databas, som den som testades av IBM.

"Det är viktigt för brottsbekämpning - och andra tekniker - att komma ihåg att ansiktsigenkänningsteknik inte är perfekt", sa han.

”Vi har sett problem som fortfarande finns, till exempel visade det senaste fallet med Amazons ansiktsigenkänningsteknik att det finns mycket arbete som ska göras innan detta kan betraktas som ”tillförlitlig teknik” och att dess resultat ska lita på i miljöer där det inte finns utrymme för fel. Det faktum att detta system inte är nära perfekt. ”

Amazons rekognitionsteknik sprängdes 2018 efter att 28 personer i den amerikanska kongressen felaktigt identifierat dem som polisämnen - och de som fingrarna var oproportionerligt färgade.

Amazon kritiserade misstaget till mänskliga fel och fel inställningar som tillämpas, men om denna typ av teknik ska användas av brottsbekämpande organ runt om i världen, då blir bättre utbildning av användare, liksom bättre tillämpning av tekniken nödvändig.

På samma sätt använde Londons Metropolitan Police ansiktsigenkänningsteknik för att övervaka Notting Hill Carnival 2017 använde en databas med 20 miljoner ansiktsbilder för att matcha ansikten mot misstänkta - men tekniken har en 98% falskt positivtoch lyckades felaktigt märka 35 personer på Carnival.

Cardiff-polisen hade inte svarat på Trusted Reviews-begäran om förtydligande hur många faktiska arresteringar har har gjorts med hjälp av tekniken vid tidpunkten för publiceringen, så att man mäter effektiviteten i rättegången är knepig.

Men om Emms kommentarer är korrekta placerar de flesta konsumenter mellan en sten och en svår plats. Å ena sidan kan vi behålla vår integritet, men avstå från fördelarna med ansiktsigenkänning på allt annat än lokal nivå. Detta är meningsfullt men innebär att konsumenterna kommer att missa de bredare fördelarna, som är rikliga, och inkluderar saker som förbättrade säkerhetstjänster, strömlinjeformade incheckningar på flygplatser och eventuellt i framtiden ett nytt system för att betala för varor och tjänster.

Eller så kan vi acceptera att regeringar följer IBMs strategi och riskerar att öppna oss för Big Brother-övervakning. Inget av dessa alternativ låter lysande, även om vi personligen tänker tills rättsliga skyddsåtgärder är på plats och konsumenterna är mer medvetna om hur deras data används alternativ ett är det enda förnuftiga sättet att gå.

Håller du med? Låt oss veta på Twitter @TrustedReviews