Google exec lansează un avertisment puternic cu privire la tehnologia de recunoaștere facială AI „părtinitoare”

Tehnologia de recunoaștere facială poartă în continuare „părtiniri inerente” și necesită mai multe teste pentru a combate problemele cu diversitate, potrivit unui director executiv Google.

Diane Greene, șefa serviciilor de cloud computing de la Google, a avertizat că companiile de top din domeniul tehnologiei trebuie să fie prudente în ceea ce privește utilizarea tehnologiei.

Avertismentul vine după ce software-ul Amazon Rekognition a identificat incorect 28 de membri ai Congresului SUA drept subiecți ai poliției. Cei identificați erau în mod disproporționat oameni de culoare. Amazon spune că pur și simplu a folosit setările greșite pentru test. Cu toate acestea, aceeași tehnologie este ar fi fost folosit de forțele de poliție in Statele Unite.

Desigur, Google a aterizat în apă fierbinte în 2015, când a fost nevoit să-și ceară scuze pentru tehnologia sa de căutare a imaginilor, identificând un cuplu negru drept gorile.

„Trebuie să fim foarte atenți la modul în care folosim acest tip de tehnologie”, a spus ea

a spus BBC. „Ne gândim foarte profund. Latura umanistă a IA - nu are diversitatea de care are nevoie, iar datele în sine vor avea unele părtiniri inerente, așa că toată lumea lucrează pentru a înțelege acest lucru ".

„Cred că toată lumea vrea să facă ceea ce trebuie. Sunt sigur că și Amazon vrea să facă ceea ce trebuie. Dar este o tehnologie nouă, este o tehnologie foarte puternică. ”

Legate de: Cel mai bun VPN

Uniunea Americană pentru Libertăți Civile spune că companiile de tehnologie și forțele de ordine ar trebui să fie restricționate în utilizarea tehnologiei de recunoaștere facială până când există o dezbatere suficientă cu privire la meritele sale.

ACLU spune: „Vorbind mai larg de recunoaștere facială, ACLU a spus:„ Congresul ar trebui să adopte un moratoriu federal privind utilizarea acestei tehnologii prin aplicarea legii până când poate exista o dezbatere completă cu privire la ce ar trebui - dacă există - utilizări permis ”.

Credeți că este adecvat ca poliția să utilizeze tehnologia de recunoaștere facială pentru a identifica posibilii infractori? Trimite-ne o linie @TrustedReviews pe Twitter.