Google exec izsaka stingru brīdinājumu par “neobjektīvo” AI sejas atpazīšanas tehnoloģiju
Sejas atpazīšanas tehnoloģijai joprojām ir “raksturīgas aizspriedumi”, un, lai cīnītos ar daudzveidību, ir nepieciešama papildu pārbaude, norāda augstākais Google vadītājs.
Google mākoņdatošanas vadītāja Diane Greene ir brīdinājusi, ka augstākajiem tehnoloģiju uzņēmumiem jābūt piesardzīgiem attiecībā uz šīs tehnoloģijas izmantošanu.
Brīdinājums notiek pēc tam, kad Amazon programmatūra Rekognition nepareizi identificēja 28 ASV Kongresa locekļus kā policijas subjektus. Identificētie bija nesamērīgi krāsaini cilvēki. Amazon saka, ka testam vienkārši izmantoja nepareizos iestatījumus. Tomēr tā pati tehnoloģija ir tiek ziņots, ka to izmanto policijas spēki Amerikas Savienotajās Valstīs.
Google, protams, nokļuva karstā ūdenī vēl 2015. gadā, kad bija spiests atvainoties par savu attēlu meklēšanas tehnoloģiju, identificējot melno pāri kā gorillas.
"Mums ir jābūt ļoti uzmanīgiem attiecībā uz to, kā mēs izmantojam šāda veida tehnoloģijas," viņa pastāstīja BBC. "Mēs domājam patiešām dziļi. AI humānistiskā puse - tai nav vajadzīgās daudzveidības, un pašiem datiem būs raksturīgas aizspriedumi, tāpēc visi strādā, lai to saprastu. "
"Es domāju, ka visi vēlas rīkoties pareizi. Es esmu pārliecināts, ka arī Amazon vēlas rīkoties pareizi. Bet tā ir jauna tehnoloģija, tā ir ļoti spēcīga tehnoloģija. ”
Saistīts: Labākais VPN
Amerikas Pilsoņu brīvību savienība apgalvo, ka tehnoloģiju uzņēmumiem un tiesībaizsardzībai jāierobežo sejas atpazīšanas tehnoloģiju izmantošana, kamēr nav pietiekamu diskusiju par tās būtību.
ACLU saka: “Runājot par sejas atpazīšanu plašāk, ACLU teica:“ Kongresam jāievieš federāls moratorijs par šīs tehnoloģijas izmantošanu tiesībaizsardzības iestādēs, līdz var notikt pilnīgas debates par to, kādam jābūt - ja tāds vispār ir atļauts. ”
Vai jūs domājat, ka policijai ir pareizi izmantot sejas atpazīšanas tehnoloģiju, lai identificētu iespējamos likumpārkāpējus? Nometiet mums līniju @TrustedReviews Twitter.
