Google exec utfärdar en stark varning för 'partisk' AI-ansiktsigenkänningsteknik

Ansiktsigenkänningstekniken har fortfarande "inneboende fördomar" och kräver mer testning för att bekämpa problem med mångfald, enligt en toppchef på Google.

Diane Greene, chef för molntjänster på Google, har varnat de bästa teknikföretagen måste vara försiktiga med sin användning av tekniken.

Varningen kommer efter att Amazons programvara för erkännande felaktigt identifierat 28 medlemmar av den amerikanska kongressen som polisämnen. De som identifierades var oproportionerligt färgade. Amazon säger att det helt enkelt använde fel inställningar för testet. Men samma teknik är enligt uppgift används av polisstyrkor i USA.

Google landade naturligtvis i varmt vatten 2015 när det tvingades be om ursäkt för sin bildsökningsteknik som identifierade ett svart par som gorillor.

"Vi måste vara riktigt försiktiga med hur vi använder den här typen av teknik", säger hon berättade BBC. ”Vi tänker riktigt djupt. Den humanistiska sidan av AI - den har inte den mångfald den behöver och själva data kommer att ha vissa inneboende fördomar, så alla arbetar för att förstå det. ”

”Jag tror att alla vill göra rätt. Jag är säker på att Amazon också vill göra rätt. Men det är en ny teknik, det är en mycket kraftfull teknik. ”

Relaterad: Bästa VPN

American Civil Liberties Union säger att teknikföretag och brottsbekämpning bör begränsas vid användning av ansiktsigenkänningsteknik tills det finns tillräcklig debatt om dess meriter.

ACLU säger: ”På tal om ansiktsigenkänning i större utsträckning sa ACLU:” Kongressen bör anta ett federalt moratorium om brottsbekämpande användning av denna teknik tills det kan finnas en fullständig debatt om vad - om någon - användning bör vara tillåtet. ”

Anser du att det är lämpligt för polisen att använda ansiktsigenkänningsteknik för att identifiera möjliga gärningsmän? Skicka oss en rad @TrustedReviews på Twitter.