Разпознаването на лицето е ужасяващо - и то е тук, за да остане

Разпознаването на лица е модерна технология, която се разпространява в почти всяка платформа, за която се сетите.

В потребителското пространство всичко, от лаптопи до мобилни телефони и дори интелигентни домашни системи, използва технологията, за да идентифицира своите потребители и да действа по съответния начин.

От една страна тези функции отлично спестяват време - въпреки че е малко фин, Windows Hello е удобен малко технология, която улеснява бързото и лесно отключване на вашия лаптоп, без да се налага да запомняте и въвеждате сложни пароли.

В правителствени и корпоративни пространства също се правят вълни с полицейски сили, които го използват за засичане и арестуване престъпници и фирми се опитват да намерят начини да го използват, за да правят неща като идентифициране на завръщането клиенти. Има и изследвания за жизнеспособността на използването на технологията за неща като извършване на плащания и проверка на полети на летища - което би направило и двата процеса значително по-малко неприятности - и здравеопазването, при което лицето ви може да бъде сканирано за ранни признаци на болест.

Но под лъскавия фурнир за удобство има определена тъмна страна, която е направо ужасяваща и има потенциал да бъде злоупотребявана от любопитни правителства и крадци на самоличност. Нещо повече, благодарение на дружелюбното лице, което компаниите използват технологиите, повечето потребители пропускат опасностите и умишлено се излагат на риск.

Свързани: Най-добра VPN

Това беше показано наскоро в случай, свързан с IBM и предполагаема злоупотреба с технологията по време на Flickr ”Разнообразие във лица”Изпробва го през януари. Изпитанието видя, че компанията използва персонализиран AI за анализ и описание на колекция от 99,2 милиона милиона снимки, направени от платформата.

Идеята беше, че ИИ може да бъде обучен за точно идентифициране на по-разнообразна гама от лица и избягване на фалшиви положителни резултати или непреднамерени пристрастия разработване в рамките на системи за разпознаване - известен проблем, който накара някои коментатори да поставят под въпрос дали технологията е подходяща за използване по закон изпълнение.

Въпросът е, според новините на NBC, че IBM не поиска разрешение за да използвате изображенията от Flickr, фотографите или участващите хора. Като се остави настрана колко обезпокоително е това на първо място, това, което го прави наистина страшно, е, че според изявлението на IBM до Trusted Reviews той е действал изцяло в рамките на буквата на закона.

„Ние приемаме много сериозно неприкосновеността на личния живот и сме положили много усилия да спазваме принципите за поверителност, включително ограничавайки Разнообразие в набора от данни на лица до публично достъпни анотации на изображения и ограничаване на достъпа до набора от данни за проверени изследователи “, прочетете в изявление.

„Физическите лица могат да се откажат от този набор от данни. IBM се ангажира с изграждането на отговорни, справедливи и надеждни технологии в продължение на повече от век и вярва, че е изключително важно да се стремим към справедливост и точност при разпознаването на лица. "

Това показва ключов проблем с отношението на потребителите към AI: ние все още сме готови да играем бързо и свободно с какви лични данни и информация публикуваме онлайн.

Както бе отбелязано от главния изследовател по сигурността на Лаборатория Касперски Дейвид Ем:

„Тази технология също така представлява значителни рискове за поверителността. Всеки човек има право да знае кой използва нашите данни и как го прави. Повечето хора не знаят рисковете, пред които са изправени онлайн - или стойността на личните си данни. "

Той продължи:

„Изследванията, които проведохме миналата година със 7000 потребители в цяла Европа, показаха, че почти две трети (64%) от хората не знаят всички места, където се съхраняват личните им данни. Освен това половината (50%) от хората не знаят колко струват техните данни. “

Това е особено тревожно, когато смятате, че технологията за разпознаване на лица вече е активно изпитана от правоприлагащите органи в Обединеното кралство.

Силите на полицията в Южен Уелс изпробват технологията за разпознаване на лица от японската група NEC в Кардиф. Процесът тече сега и използва градската мрежа за видеонаблюдение и камери, монтирани на полицейски коли и микробуси, за да наблюдава и идентифицира издирвани престъпници и заподозрени.

В процеса на Кардиф технологията работи малко по-различно от типа, демонстриран от IBM. Той трябва просто да се позовава на данни, взети от архива за заснемане на силите и списъка с известни нарушители. Това облекчава всякакви опасения относно полицията, използваща данни, взети от социалните медии, но ето, че сме пълни кръг и обратно към първоначалната причина, поради която IBM искаше да стартира изпитанието „Разнообразие от лица“ в първия място.

Свързани: Най-добрият безплатен антивирус

Както отбеляза Emm на Kaspersky, без такава разнообразна база данни, като тази, изпробвана от IBM, на мрежата не може да се вярва.

„Важно е за правоприлагащите органи - и за други изпълнители на технологията - да помнят, че технологията за разпознаване на лица не е перфектна“, каза той.

„Виждали сме проблеми, които все още съществуват, например неотдавнашният случай с технологията за разпознаване на лица на Amazon показа, че има много работата, която трябва да се извърши, преди това да може да се счита за „надеждна технология“, а резултатите да се доверяват в среди, където няма място за грешка. Фактът, че тази система не е почти съвършена. "

Технологията за повторно разпознаване на Amazon беше взривена през 2018 г., след като неправилно идентифицира 28 членове на Конгреса на САЩ като полицейски субекти - а онези, които тя опипа, бяха непропорционално цветни.

Amazon отбеляза грешката до човешка грешка и грешни настройки, които се прилагат, но ако този вид технология ще бъде използвана от правоприлагащи агенции по света, тогава ще бъде по-добро обучение на потребителите, както и по-добро приложение на технологията задължително.

По същия начин Лондонската столична полиция използва технология за разпознаване на лица наблюдавайте карнавала в Нотинг Хил през 2017 г., използвайки база данни от 20 милиона изображения на лицето, за да съчетае лица срещу заподозрени - но технологията има 98% фалшиво положителен процент, и успя да маркира неправилно 35 души на Карнавала.

Полицията в Кардиф не беше отговорила на искането на Trusted Reviews за разяснение колко са действителните арести са направени с помощта на технологията по време на публикуването, така че изцяло да се измери ефективността на пробната версия хитро.

Но ако коментарите на Emm са точни, това поставя повечето потребители между камък и твърдо място. От една страна можем да запазим личния си живот, но да се откажем от предимствата на разпознаването на лица на всичко друго, но не и на местно ниво. Това има смисъл, но означава, че потребителите ще пропуснат по-широките му предимства, които са в изобилие, и включват неща като подобрени услуги за сигурност, рационализирани проверки на летищата и, потенциално в бъдеще, нова система за плащане на стоки и услуги.

Или можем да приемем, че правителствата ще следват стратегията на IBM и ще рискуват да се отворят за наблюдението на Big Brother. Нито една от двете опции не звучи брилянтно, въпреки че ние лично смятаме, че докато не бъдат въведени законови гаранции и потребителите са по-наясно как се използват техните данни, вариант един е единственият разумен начин.

Съгласен ли си? Уведомете ни в Twitter @TrustedReviews