Ansiktsgjenkjenning er skremmende - og det er kommet for å bli

Ansiktsgjenkjenning er en banebrytende teknologi som blir rullet ut på stort sett alle plattformer du kan tenke deg.

I forbrukerområdet bruker alt fra bærbare datamaskiner til mobiltelefoner og til og med smarte hjem-systemer teknologien til å identifisere brukerne og handle deretter.

På den ene siden er disse funksjonene ypperlige tidsbesparere - selv om det er litt kinkig Windows Hello er praktisk litt teknologi som gjør det raskt og enkelt å låse opp den bærbare datamaskinen din uten å måtte huske og skrive inn komplekse passord.

I regjerings- og bedriftsrom slår det også bølger med politistyrker som bruker det til å oppdage og arrestere kriminelle og bedrifter prøver å finne måter å bruke den til å gjøre ting som å identifisere retur kunder. Det er også forskning på levedyktigheten av å bruke teknologien til ting som å betale og sjekke inn flyreiser på flyplasser - som ville gjøre begge prosessene betydelig mindre problemer - og helsetjenester, der du står overfor, kan skannes for tidlige tegn på sykdom.

Men under den skinnende fineren av bekvemmelighet er det en klar mørk side som er direkte skremmende og har potensial til å bli misbrukt av nysgjerrige regjeringer og identitetstyver som ikke gjør det. I tillegg, takket være det vennlige ansiktet selskapene bruker teknologien, savner de fleste forbrukere farene og risikerer bevisst seg selv.

I slekt: Beste VPN

Dette ble nylig presentert i en sak om IBM og påstått misbruk av teknologien under en Flickr ”Mangfold i ansikter”Prøve den demoed i januar. I rettssaken ble selskapet brukt en tilpasset AI for å analysere og beskrive samling av 99,2 millioner millioner bilder tatt fra plattformen.

Tanken var at AI kunne bli trent til å nøyaktig identifisere et mer variert utvalg av ansikter og unngå falske positive eller utilsiktede skjevheter utvikling innen anerkjennelsessystemer - et kjent problem som har fått noen kommentatorer til å stille spørsmål om teknologien er egnet for bruk ved lov håndheving.

Problemet er, ifølge NBC-nyheter, det IBM ba ikke om tillatelse å bruke bildene fra Flickr, fotografer eller involverte personer. Å legge til side hvor urovekkende dette er i utgangspunktet, det som gjør det virkelig skummelt er at det, ifølge uttalelse fra IBM til Trusted Reviews, handlet helt innenfor lovens bokstav.

“Vi tar personvernet til enkeltpersoner veldig seriøst og har lagt stor vekt på å overholde personvernprinsippene, inkludert å begrense Diversity in Faces datasett til offentlig tilgjengelige bildekommentarer og begrense tilgangen til datasettet til verifiserte forskere, ”leser uttalelse.

“Enkeltpersoner kan velge bort dette datasettet. IBM har forpliktet seg til å bygge ansvarlige, rettferdige og pålitelige teknologier i mer enn et århundre og mener det er viktig å streve for rettferdighet og nøyaktighet i ansiktsgjenkjenning. ”

Dette viser et sentralt problem med forbrukernes holdning til AI: vi er fortsatt villige til å spille raskt og løst med hvilke personlige data og informasjon vi legger ut på nettet.

Som bemerket av Kaspersky Labs viktigste sikkerhetsforsker David Emm:

“Denne teknologien gir også betydelige personvernrisiko. Hver enkelt har rett til å vite hvem som bruker dataene våre og hvordan de gjør det. De fleste kjenner ikke risikoen de står overfor på nettet - eller verdien av deres personlige opplysninger. "

Han fortsatte:

“Forskning vi gjennomførte i fjor med 7000 forbrukere over hele Europa viste at nesten to tredjedeler (64%) av mennesker ikke kjente til alle stedene der deres personlige data ble lagret. I tillegg vet halvparten (50%) av folk ikke hvor mye dataene deres er verdt. ”

Dette er spesielt bekymringsfullt når du vurderer at ansiktsgjenkjenningsteknologi allerede blir testet aktivt av rettshåndhevelse i Storbritannia.

South Wales Police Force har prøvd ansiktsgjenkjenningsteknologi fra Japans NEC Group i Cardiff. Rettsaken kjører nå, og bruker byens CCTV-nettverk og kameraer montert på politibiler og varebiler for å overvåke og identifisere etterlyste kriminelle og mistenkte.

I Cardiff-rettssaken fungerer teknologien litt annerledes enn den typen som ble demoed av IBM. Den skal bare referere til data hentet fra styrkenes fangeopptak arkiv og listen over kjente lovbrytere. Dette lindrer eventuelle bekymringer om politiet bruker data hentet fra sosiale medier, men her er vi fulle sirkel og tilbake til den opprinnelige grunnen til at IBM ønsket å kjøre Diversity of Faces-rettssaken i den første plass.

I slekt: Beste gratis antivirus

Som Kasperskys Emm bemerket, kan ikke nettverket stole på uten en så mangfoldig database, som den som ble testet av IBM.

"Det er viktig for rettshåndhevelse - og andre som implementerer teknologien - å huske at ansiktsgjenkjenningsteknologi ikke er perfekt," sa han.

“Vi har sett problemer som fremdeles eksisterer, for eksempel viste den nylige saken med Amazons ansiktsgjenkjenningsteknologi at det er mye arbeid som skal utføres før dette kan betraktes som 'pålitelig teknologi', og for at resultatene skal stole på i miljøer der det ikke er rom for feil. Det faktum at dette systemet ikke er i nærheten av perfekt. ”

Amazons Rekognition-teknologi ble sprengt i 2018 etter at den feilaktig identifiserte 28 medlemmer av den amerikanske kongressen som politiemner - og de den fingret var uforholdsmessig fargede.

Amazon kritiserte bommerten til menneskelige feil og feil innstillinger som ble brukt, men hvis denne typen teknologi skal brukes av politimyndigheter over hele verden, vil bedre opplæring av brukere, samt bedre anvendelse av teknologien være kreves.

Tilsvarende brukte Londons Metropolitan Police ansiktsgjenkjenningsteknologi til overvåke Notting Hill Carnival i 2017, ved hjelp av en database med 20 millioner ansiktsbilder for å matche ansikter mot mistenkte - men teknologien har en 98% falsk positiv rate, og klarte å feilsøke 35 personer på Carnival.

Cardiff Police hadde ikke svart på Trusted Reviews-anmodningen om avklaring av hvor mange faktiske arrestasjoner som har funnet sted ble laget ved hjelp av teknologien på tidspunktet for publiseringen, så fullstendig måler effektiviteten av rettssaken er vanskelig.

Men hvis Emms kommentarer er korrekte, setter de fleste forbrukere seg mellom en stein og en hard plass. På den ene siden kan vi opprettholde personvernet vårt, men fravike fordelene med ansiktsgjenkjenning på alt annet enn lokalt nivå. Dette er fornuftig, men betyr at forbrukere vil gå glipp av de bredere fordelene, som er rikelig, og inkluderer ting som forbedret sikkerhetstjenester, strømlinjeformet innsjekking på flyplasser og potensielt i fremtiden et nytt system for å betale for varer og tjenester.

Eller vi kan godta at regjeringer vil følge IBMs strategi og risikere å åpne oss for Big Brother-overvåking. Ingen av alternativene høres strålende ut, selv om vi personlig synes til lovlige garantier er på plass og forbrukerne er mer klar over hvordan dataene deres blir brukt, alternativ 1 er den eneste fornuftige veien å gå.

Er du enig? Gi oss beskjed på Twitter @TrustedReviews