Google exec udsender skarp advarsel om 'partisk' AI ansigtsgenkendelsesteknologi

Ansigtsgenkendelsesteknologi bærer stadig "iboende forstyrrelser" og kræver mere test for at bekæmpe problemer med mangfoldighed, ifølge en topchef fra Google.

Diane Greene, chef for cloud computing hos Google, har advaret om, at de bedste teknologivirksomheder skal være forsigtige med brugen af ​​teknologien.

Advarslen kommer efter, at Amazons Rekognition-software fejlagtigt identificerede 28 medlemmer af den amerikanske kongres som politifag. De identificerede var uforholdsmæssigt farvede. Amazon siger, at det simpelthen brugte de forkerte indstillinger til testen. Men den samme teknologi er angiveligt brugt af politistyrker i USA.

Google landede selvfølgelig i varmt vand tilbage i 2015, da det blev tvunget til at undskylde for sin Image Search-teknologi, der identificerede et sort par som gorillaer.

”Vi skal være meget forsigtige med, hvordan vi bruger denne form for teknologi,” siger hun fortalte BBC. ”Vi tænker virkelig dybt. Den humanistiske side af AI - den har ikke den mangfoldighed, den har brug for, og selve dataene vil have nogle iboende fordomme, så alle arbejder på at forstå det. "

”Jeg tror, ​​at alle vil gøre det rigtige. Jeg er sikker på, at Amazon også vil gøre det rigtige. Men det er en ny teknologi, det er en meget kraftig teknologi. ”

Relaterede: Bedste VPN

American Civil Liberties Union siger, at teknologivirksomheder og retshåndhævelse bør begrænses i brugen af ​​ansigtsgenkendelsesteknologi, indtil der er tilstrækkelig debat om dets fordele.

ACLU siger: ”Apropos ansigtsgenkendelse mere bredt sagde ACLU:“ Kongressen bør vedtage et føderalt moratorium om anvendelse af denne teknologi til retshåndhævelse, indtil der kan være en fuld debat om, hvad - hvis nogen - anvendelser skal være tilladt. ”

Tror du, at det er korrekt for politiet at bruge ansigtsgenkendelsesteknologi til at identificere mulige lovovertrædere? Send os en linje @TrustedReviews på Twitter.