Recunoașterea facială este terifiantă - și este aici pentru a rămâne

Recunoașterea facială este o tehnologie de ultimă generație care este lansată pe aproape orice platformă la care te poți gândi.

În spațiul de consum, totul, de la laptopuri la telefoane mobile și chiar sisteme inteligente de acasă, utilizează tehnologia pentru a-și identifica utilizatorii și a acționa în consecință.

Pe de o parte, aceste caracteristici economisesc timp excelent - deși este un pic complicat Windows Hello este un convenabil un pic de tehnologie care vă permite să vă deblocați rapid și ușor laptopul fără a fi nevoie să vă amintiți și să introduceți parole complexe.

În spațiile guvernamentale și ale întreprinderilor, de asemenea, face furori cu forțele de poliție care îl folosesc pentru a identifica și aresta infractorii și întreprinderile încearcă să găsească modalități de a-l folosi pentru a face lucruri precum identificarea revenirii Clienți. Există, de asemenea, cercetări privind viabilitatea utilizării tehnologiei pentru lucruri precum efectuarea plăților și verificarea zborurilor în aeroporturi - ceea ce ar face ambele procese semnificativ mai puține probleme - și asistența medicală, în care vă confruntați, ar putea fi scanate pentru primele semne ale boală.

Dar sub stratul strălucitor de comoditate există o latură întunecată clară care este de-a dreptul terifiantă și care are potențialul de a fi folosită greșit de guverne indiscrete și hoți de identitate care nu-i fac bine. Mai mult decât atât, datorită faței prietenoase pe care companiile le pun în tehnologie, majorității consumatorilor le lipsește pericolele și se pun în mod deliberat în pericol.

Legate de: Cel mai bun VPN

Acest lucru a fost prezentat cel mai recent într-un caz referitor la IBM și o presupusă utilizare abuzivă a tehnologiei în timpul unui Flickr ”Diversitate în chipuri”Proces pe care l-a demonstrat în ianuarie. În urma procesului, compania a folosit o IA personalizată pentru a analiza și descrie colecția de 99,2 milioane de fotografii făcute de pe platformă.

Ideea a fost că AI ar putea fi instruit pentru a identifica cu precizie o gamă mai diversă de fețe și pentru a evita falsurile pozitive sau părtinirile neintenționate dezvoltarea în cadrul sistemelor de recunoaștere - o problemă cunoscută care i-a făcut pe unii comentatori să se întrebe dacă tehnologia este adecvată pentru utilizare prin lege executare.

Problema este, potrivit știrilor NBC, că IBM nu a solicitat permisiunea pentru a utiliza imaginile de la Flickr, fotografii sau persoanele implicate. Lăsând deoparte cât de deranjant este acest lucru în primul rând, ceea ce îl face cu adevărat înfricoșător este că, conform declarației IBM către Trusted Reviews, a acționat în totalitate în cadrul literei legii.

„Luăm confidențialitatea persoanelor foarte în serios și am avut mare grijă să respectăm principiile de confidențialitate, inclusiv limitarea Diversitatea în setul de date Faces la adnotări de imagine disponibile public și limitarea accesului setului de date la cercetătorii verificați ”, se citește afirmație.

„Persoanele pot renunța la acest set de date. IBM s-a angajat să construiască tehnologii responsabile, corecte și de încredere de mai bine de un secol și consideră că este esențial să ne străduim să fim corecți și precisi în recunoașterea facială. ”

Aceasta prezintă o problemă esențială în ceea ce privește atitudinea consumatorilor față de AI: suntem încă dispuși să ne jucăm rapid și ușor cu datele și informațiile personale pe care le postăm online.

După cum a remarcat cercetătorul principal în securitate al Kaspersky Lab, David Emm:

„Această tehnologie prezintă și riscuri semnificative pentru confidențialitate. Fiecare persoană are dreptul să știe cine folosește datele noastre și cum o face. Majoritatea oamenilor nu cunosc riscurile cu care se confruntă online - sau valoarea detaliilor lor personale ”.

El a continuat:

„Cercetările efectuate anul trecut cu 7.000 de consumatori din întreaga Europă au arătat că aproape două treimi (64%) dintre oameni nu cunoșteau toate locurile în care au fost stocate datele lor personale. În plus, jumătate (50%) dintre oameni nu știu cât valorează datele lor. ”

Acest lucru este deosebit de îngrijorător atunci când luați în considerare faptul că tehnologia de recunoaștere facială este deja testată în mod activ de forțele de ordine din Regatul Unit.

Poliția din sudul Țării Galilor a încercat tehnologia de recunoaștere facială a grupului japonez NEC din Cardiff. Procesul se desfășoară acum și folosește rețeaua CCTV a orașului și camerele montate pe mașinile și camionetele de poliție pentru a monitoriza și identifica criminalii și suspecții căutați.

În procesul de la Cardiff, tehnologia funcționează ușor diferită de tipul demonstrat de IBM. Ar trebui doar să facă referire la date preluate din arhiva de înregistrări a forței și din lista de infractori cunoscuți. Acest lucru ameliorează orice îngrijorare cu privire la faptul că poliția folosește date preluate de pe rețelele de socializare, dar aici suntem plini cerc și înapoi la motivul inițial IBM a dorit să ruleze procesul Diversity of Faces în primul loc.

Legate de: Cel mai bun antivirus gratuit

După cum a remarcat Emm de la Kaspersky, fără o bază de date atât de diversă, precum cea testată de IBM, rețeaua nu poate fi de încredere.

„Este important ca forțele de ordine - și alți implementatori ai tehnologiei - să rețină că tehnologia de recunoaștere facială nu este perfectă”, a spus el.

„Am văzut probleme care există încă, de exemplu, cazul recent cu tehnologia Amazon de recunoaștere facială a demonstrat că există multe lucrarea de făcut înainte ca aceasta să poată fi considerată „tehnologie fiabilă” și ca rezultatele sale să fie de încredere în medii în care nu există loc pentru eroare. Faptul că acest sistem nu este nici pe departe perfect. ”

Tehnologia de recunoaștere a Amazon a fost distrusă în 2018 după ce a identificat incorect 28 de membri ai Congresului SUA drept subiecți ai poliției - iar cei pe care i-a dat cu degetul erau în mod disproporționat oameni de culoare.

Amazon a criticat eroarea umană și a aplicat setările greșite, dar dacă acest tip de tehnologie urmează să fie utilizat de agențiile de aplicare a legii din întreaga lume, atunci va fi o mai bună pregătire a utilizatorilor, precum și o mai bună aplicare a tehnologiei necesar.

În mod similar, Poliția Metropolitană din Londra a folosit tehnologia de recunoaștere facială monitorizează Carnavalul Notting Hill în 2017, folosind o bază de date de 20 de milioane de imagini faciale pentru a se potrivi fețelor cu suspecții - dar tehnologia are un Rată fals pozitivă de 98%, și a reușit să eticheteze incorect 35 de persoane la Carnaval.

Poliția din Cardiff nu a răspuns la cererea de recenzii de încredere pentru clarificare a numărului de arestări efective a fost realizată folosind tehnologia la momentul publicării, așa că măsurarea completă a eficacității procesului este complicat.

Dar dacă comentariile lui Emm sunt corecte, acest lucru îi pune pe majoritatea consumatorilor între o piatră și un loc greu. Pe de o parte, ne putem menține confidențialitatea, dar renunțăm la beneficiile recunoașterii faciale la orice altceva decât la nivel local. Acest lucru are sens, dar înseamnă că consumatorii vor pierde beneficiile sale mai largi, care sunt abundente, și includ lucruri precum îmbunătățirea servicii de securitate, înregistrări simplificate la aeroporturi și, eventual, în viitor, un nou sistem de plată pentru bunuri și servicii.

Sau putem accepta că guvernele vor urma strategia IBM și riscă să ne deschidem la supravegherea Big Brother. Nici una dintre opțiuni nu sună strălucitoare, deși ne gândim personal până când nu există garanții legale și consumatorii sunt mai conștienți de modul în care sunt utilizate datele lor. Opțiunea una este singura cale sensibilă de urmat.

Ești de acord? Spuneți-ne pe Twitter @TrustedReviews