Представитель Google выпустил строгое предупреждение о `` предвзятой '' технологии распознавания лиц ИИ
По словам одного из руководителей Google, технология распознавания лиц по-прежнему несет в себе «врожденные предубеждения» и требует дополнительных испытаний для борьбы с проблемами разнообразия.
Дайан Грин, глава отдела облачных вычислений в Google, предупредила, что ведущие технологические компании должны проявлять осторожность при использовании этой технологии.
Предупреждение появилось после того, как программное обеспечение Amazon Rekognition неправильно идентифицировало 28 членов Конгресса США как полицейских. Среди опознанных было непропорционально много цветных людей. Amazon заявляет, что просто использовала неправильные настройки для теста. Однако та же технология как сообщается, используется полицией В Соединенных Штатах.
Google, конечно же, попал в беду еще в 2015 году, когда был вынужден извиниться за свою технологию поиска изображений, опознавшую черную пару как горилл.
«Нам нужно быть очень осторожными в том, как мы используем такие технологии», - сказала она. сказал BBC. «Мы очень глубоко думаем. Гуманистическая сторона ИИ - у него нет необходимого разнообразия, а сами данные будут иметь некоторые врожденные предубеждения, поэтому все работают над тем, чтобы это понять ».
«Я думаю, что все хотят поступать правильно. Я уверен, что Amazon тоже хочет поступать правильно. Но это новая технология, это очень мощная технология ».
Связанный: Лучший VPN
Американский союз гражданских свобод заявляет, что технологическим компаниям и правоохранительным органам следует ограничить использование технологии распознавания лиц до тех пор, пока не будет проведено достаточное обсуждение ее достоинств.
ACLU говорит: «Говоря о распознавании лиц в более широком смысле, ACLU сказал:« Конгресс должен ввести федеральный мораторий. об использовании этой технологии правоохранительными органами до тех пор, пока не начнутся полные дебаты о том, какие виды использования должны быть разрешенный."
Считаете ли вы, что полиция должна использовать технологию распознавания лиц для выявления возможных преступников? Напишите нам @TrustedReviews в Twitter.
