El reconocimiento facial es aterrador, y llegó para quedarse

El reconocimiento facial es una tecnología de vanguardia que se está implementando en casi todas las plataformas que pueda imaginar.

En el espacio del consumidor, todo, desde computadoras portátiles hasta teléfonos móviles e incluso los sistemas domésticos inteligentes, utilizan la tecnología para identificar a sus usuarios y actuar en consecuencia.

Por un lado, estas funciones son excelentes para ahorrar tiempo, aunque es un poco delicado Windows Hello es conveniente un poco de tecnología que hace que desbloquear su computadora portátil sea rápido y fácil sin tener que recordar e ingresar contraseñas complejas.

En espacios gubernamentales y empresariales, también está causando sensación con las fuerzas policiales que lo utilizan para detectar y arrestar criminales, y las empresas están tratando de encontrar formas de utilizarlo para hacer cosas como identificar clientes. También hay investigaciones sobre la viabilidad de utilizar la tecnología para cosas como realizar pagos y registrarse en los vuelos en los aeropuertos. lo que haría que ambos procesos fueran significativamente menos complicados, y la atención médica, donde su rostro podría ser escaneado en busca de signos tempranos de enfermedad.

Pero debajo del barniz brillante de la conveniencia hay un lado oscuro definido que es absolutamente aterrador y tiene el potencial de ser utilizado indebidamente por gobiernos entrometidos y ladrones de identidad inútiles. Es más, gracias a la cara amistosa que las empresas están poniendo en la tecnología, la mayoría de los consumidores están pasando por alto los peligros y se arriesgan deliberadamente.

Relacionado: Mejor VPN

Esto se mostró más recientemente en un caso relacionado con IBM y un presunto uso indebido de la tecnología durante un Flickr "Diversidad en rostros”Prueba que hizo una demostración en enero. En la prueba, la empresa utilizó una IA personalizada para analizar y describir la colección de 99,2 millones de fotos tomadas desde la plataforma.

La idea era que la IA pudiera ser entrenada para identificar con precisión una gama más diversa de rostros y evitar falsos positivos o sesgos no deseados. desarrollo dentro de los sistemas de reconocimiento: un problema conocido que ha hecho que algunos comentaristas se cuestionen si la tecnología es apropiada para su uso por ley aplicación.

El problema es, según NBC News, que IBM no solicitó permiso utilizar las imágenes de Flickr, los fotógrafos o las personas involucradas. Dejando de lado lo perturbador que es esto en primer lugar, lo que lo hace realmente aterrador es que, según la declaración de IBM a Trusted Reviews, actuó completamente dentro de la letra de la ley.

“Nos tomamos muy en serio la privacidad de las personas y hemos tenido mucho cuidado de cumplir con los principios de privacidad, incluida la limitación de Conjunto de datos de Diversity in Faces a anotaciones de imágenes disponibles públicamente y limitación del acceso del conjunto de datos a investigadores verificados ", lea el declaración.

“Las personas pueden optar por no participar en este conjunto de datos. IBM se ha comprometido a crear tecnologías responsables, justas y confiables durante más de un siglo y cree que es fundamental luchar por la equidad y la precisión en el reconocimiento facial ”.

Esto muestra un problema clave con la actitud de los consumidores hacia la inteligencia artificial: todavía estamos dispuestos a jugar rápido y libremente con los datos personales y la información que publicamos en línea.

Como señaló el investigador principal de seguridad de Kaspersky Lab, David Emm:

“Esta tecnología también presenta importantes riesgos de privacidad. Toda persona tiene derecho a saber quién está utilizando nuestros datos y cómo lo está haciendo. La mayoría de las personas no conocen los riesgos a los que se enfrentan en línea ni el valor de sus datos personales ".

Él continuó:

“La investigación que realizamos el año pasado con 7.000 consumidores en toda Europa mostró que casi dos tercios (64%) de las personas no conocían todos los lugares donde se almacenaban sus datos personales. Además, la mitad (50%) de las personas no sabe cuánto valen sus datos ".

Esto es particularmente preocupante cuando se considera el hecho de que la tecnología de reconocimiento facial ya está siendo probada activamente por las fuerzas del orden en el Reino Unido.

La policía de Gales del Sur ha estado probando tecnología de reconocimiento facial del Grupo NEC de Japón en Cardiff. El juicio ya está en marcha y utiliza la red de CCTV de la ciudad y las cámaras montadas en los coches de policía y furgonetas para supervisar e identificar a los delincuentes y sospechosos buscados.

En la prueba de Cardiff, la tecnología funciona ligeramente diferente al tipo que demostró IBM. Solo debe hacer referencia a los datos tomados del archivo de imágenes de captura de la fuerza y ​​la lista de delincuentes conocidos. Esto alivia cualquier preocupación sobre el uso de datos de la policía tomados de las redes sociales, pero aquí venimos completos círculo y de vuelta a la razón original por la que IBM quería ejecutar la prueba de Diversity of Faces en la primera sitio.

Relacionado: El mejor antivirus gratuito

Como señaló Emm de Kaspersky, sin una base de datos tan diversa, como la probada por IBM, no se puede confiar en la red.

"Es importante para las fuerzas del orden - y otros implementadores de la tecnología - recordar que la tecnología de reconocimiento facial no es perfecta", dijo.

“Hemos visto problemas que aún existen, por ejemplo, el caso reciente con la tecnología de reconocimiento facial de Amazon demostró que hay muchos trabajo por hacer antes de que esto pueda considerarse "tecnología confiable", y para que sus resultados sean confiables en entornos, donde no hay espacio para error. El hecho de que este sistema no es ni de lejos perfecto ".

La tecnología Rekognition de Amazon fue criticada en 2018 después de que identificara incorrectamente a 28 miembros del Congreso de los EE. UU. Como sujetos policiales, y las personas a las que señaló eran desproporcionadamente personas de color.

Amazon atribuyó el error a un error humano y la aplicación de la configuración incorrecta, pero si este tipo de tecnología va a ser utilizada por agencias de aplicación de la ley en todo el mundo, entonces se mejorará la capacitación de los usuarios, así como una mejor aplicación de la tecnología requerido.

Del mismo modo, la Policía Metropolitana de Londres utilizó tecnología de reconocimiento facial para supervisar el carnaval de Notting Hill en 2017, utilizando una base de datos de 20 millones de imágenes faciales para comparar rostros con sospechosos, pero la tecnología tiene una Tasa de falsos positivos del 98%, y logró etiquetar incorrectamente a 35 personas en el Carnaval.

La policía de Cardiff no había respondido a la solicitud de Trusted Reviews de que se aclarara cuántos arrestos reales se han producido se ha realizado utilizando la tecnología en el momento de la publicación, por lo que evaluar completamente la efectividad de la prueba es difícil.

Pero si los comentarios de Emm son precisos, la mayoría de los consumidores se encuentran entre la espada y la pared. Por un lado, podemos mantener nuestra privacidad, pero renunciar a los beneficios del reconocimiento facial en todo menos a nivel local. Esto tiene sentido, pero significa que los consumidores se perderán sus beneficios más amplios, que son abundantes e incluyen cosas como mejoras servicios de seguridad, registros simplificados en los aeropuertos y, potencialmente en el futuro, un nuevo sistema para pagar bienes y servicios.

O podemos aceptar que los gobiernos seguirán la estrategia de IBM y arriesgarnos a abrirnos a la vigilancia del Gran Hermano. Ninguna opción suena brillante, aunque personalmente pensamos que hasta que se establezcan las salvaguardias legales y los consumidores sean más conscientes de cómo se utilizan sus datos, la opción uno es la única forma sensata a seguir.

¿Estás de acuerdo? Háganos saber en Twitter @TrustedReviews