Prepoznavanje obraza je grozljivo - in tu mora ostati

Prepoznavanje obraza je najsodobnejša tehnologija, ki se uporablja na skoraj vseh platformah, ki si jih omislite.

V potrošniškem prostoru vse od prenosnih računalnikov do mobilnih telefonov in celo pametnih sistemov za dom uporabljajo tehnologijo za prepoznavanje svojih uporabnikov in ravnanje v skladu z njimi.

Po eni strani te funkcije odlično prihranijo čas - čeprav je Windows nekoliko pozoren, Hello je priročen bit tehnologije, ki omogoča hitro in enostavno odklepanje prenosnika, ne da bi si bilo treba zapomniti in vnašati zapletena gesla.

V vladnih in podjetniških prostorih valovi tudi s policijskimi silami, ki jih uporabljajo za opazovanje in aretiranje storilci kaznivih dejanj in podjetja poskušajo najti načine, kako to storiti, na primer za prepoznavanje vračanja stranke. Raziskane so tudi možnosti uporabe tehnologije za stvari, kot so plačevanje in preverjanje letov na letališčih - kar bi bistveno zmanjšalo težave tako pri zdravljenju, kot pri zdravstvenem varstvu, kjer bi vas lahko skenirali glede zgodnjih znakov bolezen.

Toda pod bleščečim furnirjem udobja je nedvomno temna stran, ki je naravnost zastrašujoča in jo lahko zlorabljajo radovedne vlade in tatovi identitete, ki ne delajo dobro. Še več, zahvaljujoč prijaznemu obrazu, ki ga podjetja postavljajo na tehnologijo, večina potrošnikov zamuja nevarnosti in se namerno ogroža.

Sorodno: Najboljši VPN

To je bilo nazadnje predstavljeno v primeru, ki se nanaša na IBM in domnevno zlorabo tehnologije med Flickrjem. "Raznolikost v obrazih”Sojenje je predstavljeno januarja. V preskusu je podjetje uporabilo umetno inteligenco po meri za analizo in opis zbirke 99,2 milijona fotografij, posnetih s platforme.

Zamisel je bila, da bi se AI lahko usposobil za natančno prepoznavanje raznovrstnejših obrazov in izogibanje lažnim pozitivnim ali nenamernim pristranskostim razvoj znotraj sistemov za prepoznavanje - znana težava, zaradi katere se nekateri komentatorji sprašujejo, ali je tehnologija primerna za uporabo po zakonu izvršba.

Glede na novice NBC je vprašanje to IBM ni zahteval dovoljenja za uporabo slik s Flickrja, fotografij ali vpletenih ljudi. Če odmislimo, kako moteče je to na prvem mestu, je resnično zastrašujoče to, da je po izjavi IBM-a Trusted Reviews deloval v celoti v skladu s črko zakona.

»Zasebnost posameznikov jemljemo zelo resno in smo zelo pazili, da spoštujemo načela zasebnosti, vključno z omejevanjem Raznolikost nabora podatkov Faces na javno dostopne opombe k sliki in omejevanje dostopa do nabora podatkov preverjenim raziskovalcem, «je prebral izjavo.

»Posamezniki lahko onemogočijo uporabo tega nabora podatkov. IBM se že več kot stoletje zavzema za gradnjo odgovornih, poštenih in zaupanja vrednih tehnologij in meni, da je ključnega pomena, da si prizadevamo za pravičnost in natančnost pri prepoznavanju obrazov. "

To predstavlja ključno težavo z odnosom potrošnikov do umetne inteligence: še vedno smo pripravljeni igrati hitro in ohlapno s tem, katere osebne podatke in informacije objavljamo v spletu.

Kot je ugotovil glavni raziskovalec varnosti Kaspersky Lab David Emm:

»Ta tehnologija predstavlja tudi velika tveganja za zasebnost. Vsak posameznik ima pravico vedeti, kdo uporablja naše podatke in kako to počne. Večina ljudi ne pozna tveganj, s katerimi se soočajo v spletu - ali vrednosti svojih osebnih podatkov. "

Nadaljeval je:

»Raziskava, ki smo jo lani izvedli s 7000 potrošniki po Evropi, je pokazala, da skoraj dve tretjini (64%) ljudi ni poznalo vseh krajev, kjer so bili shranjeni njihovi osebni podatki. Poleg tega polovica (50%) ljudi ne ve, koliko so vredni njihovi podatki. "

To je še posebej zaskrbljujoče, če menite, da policija v Združenem kraljestvu že aktivno preizkuša tehnologijo prepoznavanja obraza.

Policijska služba Južnega Walesa preizkuša tehnologijo prepoznavanja obrazov japonske skupine NEC v Cardiffu. Sojenje že poteka in uporablja mestno omrežje CCTV in kamere, nameščene na policijskih avtomobilih in kombijih, za spremljanje in prepoznavanje iskanih kriminalcev in osumljencev.

V preizkusu Cardiff tehnologija deluje nekoliko drugače kot tip, ki ga je predstavil IBM. Sklicevati se mora le na podatke iz arhiva posnetkov posnetkov sil in seznama znanih storilcev kaznivih dejanj. To ublaži kakršno koli zaskrbljenost glede policije, ki uporablja podatke, pridobljene iz družbenih omrežij, toda tukaj smo polni krog in nazaj k prvotnemu razlogu, da je IBM hotel najprej preizkusiti različnost obrazov kraj.

Sorodno: Najboljši brezplačni antivirus

Kot je ugotovil Kaspersky's Emm, brez tako raznolike baze podatkov, kot je tista, ki jo preizkuša IBM, omrežju ni mogoče zaupati.

"Pomembno je, da se organi kazenskega pregona - in drugi izvajalci tehnologije - zavedajo, da tehnologija prepoznavanja obrazov ni popolna," je dejal.

»Videli smo težave, ki še vedno obstajajo, na primer nedavni primer z Amazonovo tehnologijo prepoznavanja obraza je pokazal, da jih je veliko delo, ki ga je treba opraviti, preden se to lahko šteje za "zanesljivo tehnologijo", in za zaupanje njenim rezultatom v okoljih, kjer ni prostora za napaka. Dejstvo, da ta sistem še zdaleč ni popoln. "

Amazonova tehnologija ponovnega vžiga je bila leta 2018 eksplodirana, potem ko je 28 članov ameriškega kongresa napačno opredelila kot policijske subjekte - in tisti, ki jih je prstala, so bili nesorazmerno barvni ljudje.

Amazon je napako označil s človeško napako in napačnimi nastavitvami, ki pa se uporabljajo, če pa bo tovrstno tehnologijo uporabljal organov kazenskega pregona po vsem svetu, potem bo boljše usposabljanje uporabnikov, pa tudi boljša uporaba tehnologije zahteva.

Podobno je londonska Metropolitan Police uporabila tehnologijo prepoznavanja obrazov spremljati karneval v Notting Hillu leta 2017 z uporabo baze podatkov o 20 milijonih obraznih slik za ujemanje obrazov z osumljenci - toda tehnologija ima 98% lažno pozitivne stopnje, in na karnevalu uspelo napačno označiti 35 ljudi.

Cardiff policija se ni odzvala na zahtevo Trusted Reviews za pojasnilo, koliko dejanskih aretacij ima je bil objavljen z uporabo tehnologije, zato je v celoti ocenjeno učinkovitost preskusa zapleteno.

Ampak, če so Emmovi komentarji točni, to večino potrošnikov postavlja med trdo in trdo okolico. Po eni strani lahko ohranimo svojo zasebnost, vendar se odpovemo blaginji prepoznavanja obraza na vsej, razen na lokalni ravni. To je smiselno, vendar pomeni, da bodo potrošniki zamudili njegove širše prednosti, ki jih je veliko, in vključujejo stvari, kot je izboljšana varnostne službe, racionalizirane prijave na letališčih in, potencialno v prihodnosti, nov sistem plačevanja blaga in storitev.

Lahko pa sprejmemo, da bodo vlade sledile IBM-ovi strategiji in tvegale, da se bomo odprle nadzoru Big Brother. Nobena od možnosti ne zveni briljantno, čeprav osebno mislimo, da bodo vzpostavljene pravne zaščitne mere in se potrošniki bolje zavedajo, kako se uporabljajo njihovi podatki, je prva možnost edina smiselna pot.

Ali se strinjaš? Sporočite nam na Twitterju @TrustedReviews