Gesichtserkennung ist erschreckend - und es ist hier, um zu bleiben

Die Gesichtserkennung ist eine Spitzentechnologie, die auf nahezu jeder erdenklichen Plattform eingeführt wird.

Im Consumer-Bereich nutzt alles, von Laptops über Mobiltelefone bis hin zu Smart-Home-Systemen, die Technologie, um ihre Benutzer zu identifizieren und entsprechend zu handeln.

Einerseits sparen diese Funktionen hervorragend Zeit - obwohl es ein wenig pingelig ist, ist Windows Hello praktisch Ein bisschen Technologie, mit der Sie Ihren Laptop schnell und einfach entsperren können, ohne sich komplexe Passwörter merken und eingeben zu müssen.

In Regierungs- und Unternehmensräumen macht es auch Wellen mit Polizeikräften, die es zum Aufspüren und Festnehmen verwenden Kriminelle und Unternehmen versuchen, Wege zu finden, um damit beispielsweise die Rückkehr zu identifizieren Kunden. Es wird auch untersucht, ob es sinnvoll ist, die Technologie beispielsweise für Zahlungen und das Einchecken in Flüge an Flughäfen einzusetzen. Dies würde beide Prozesse erheblich stressfreier machen - und das Gesundheitswesen, bei dem Sie sich befinden, könnte auf frühe Anzeichen von gescannt werden Krankheit.

Aber unter dem glänzenden Furnier der Bequemlichkeit gibt es eine bestimmte dunkle Seite, die geradezu furchterregend ist und das Potenzial hat, von neugierigen Regierungen und Identitätsdieben missbraucht zu werden. Darüber hinaus verpassen die meisten Verbraucher dank des freundlichen Gesichts, das Unternehmen auf die Technologie setzen, die Gefahren und setzen sich absichtlich einem Risiko aus.

Verbunden: Bestes VPN

Dies wurde zuletzt in einem Fall im Zusammenhang mit IBM und einem mutmaßlichen Missbrauch der Technologie während eines Flickr gezeigt. “Vielfalt in GesichternTestversion es im Januar vorgeführt. In der Studie verwendete das Unternehmen eine benutzerdefinierte KI, um die Sammlung von 99,2 Millionen Millionen Fotos zu analysieren und zu beschreiben, die von der Plattform aufgenommen wurden.

Die Idee war, dass die KI trainiert werden kann, um eine größere Bandbreite von Gesichtern genau zu identifizieren und Fehlalarme oder unbeabsichtigte Vorurteile zu vermeiden Entwicklung innerhalb von Erkennungssystemen - ein bekanntes Problem, das einige Kommentatoren in Frage gestellt hat, ob die Technologie für die Verwendung durch das Gesetz geeignet ist Durchsetzung.

Das Problem ist laut NBC-Nachrichten, dass IBM hat keine Erlaubnis angefordert um die Bilder von Flickr, den Fotografen oder den beteiligten Personen zu verwenden. Abgesehen davon, wie beunruhigend dies in erster Linie ist, ist es wirklich beängstigend, dass es laut Aussage von IBM gegenüber Trusted Reviews vollständig im Rahmen des Gesetzes gehandelt hat.

„Wir nehmen die Privatsphäre von Einzelpersonen sehr ernst und haben große Sorgfalt darauf verwendet, die Datenschutzgrundsätze einzuhalten, einschließlich der Einschränkung der Privatsphäre Datensatz "Diversity in Faces" auf öffentlich verfügbare Bildanmerkungen und Einschränkung des Zugriffs des Datensatzes auf verifizierte Forscher “, lesen Sie den Erklärung.

„Einzelpersonen können diesen Datensatz deaktivieren. IBM engagiert sich seit mehr als einem Jahrhundert für den Aufbau verantwortungsbewusster, fairer und vertrauenswürdiger Technologien und ist der Ansicht, dass es wichtig ist, bei der Gesichtserkennung nach Fairness und Genauigkeit zu streben. “

Dies zeigt ein Schlüsselproblem bei der Einstellung der Verbraucher zur KI: Wir sind immer noch bereit, schnell und locker mit den persönlichen Daten und Informationen zu spielen, die wir online veröffentlichen.

Wie der wichtigste Sicherheitsforscher von Kaspersky Lab, David Emm, feststellte:

„Diese Technologie birgt auch erhebliche Datenschutzrisiken. Jeder Einzelne hat das Recht zu wissen, wer unsere Daten verwendet und wie er dies tut. Die meisten Menschen kennen weder die Risiken, denen sie online ausgesetzt sind, noch den Wert ihrer persönlichen Daten. "

Er machte weiter:

„Untersuchungen, die wir letztes Jahr mit 7.000 Verbrauchern in ganz Europa durchgeführt haben, haben ergeben, dass fast zwei Drittel (64%) der Menschen nicht alle Orte kannten, an denen ihre persönlichen Daten gespeichert waren. Darüber hinaus weiß die Hälfte (50%) der Menschen nicht, wie viel ihre Daten wert sind. “

Dies ist besonders besorgniserregend, wenn man bedenkt, dass die Gesichtserkennungstechnologie bereits von den Strafverfolgungsbehörden in Großbritannien aktiv getestet wird.

Die Polizei von Südwales hat Gesichtserkennungstechnologien der japanischen NEC Group in Cardiff getestet. Der Prozess läuft jetzt und nutzt das CCTV-Netzwerk und die Kameras der Stadt, die an Polizeiautos und Lieferwagen angebracht sind, um gesuchte Kriminelle und Verdächtige zu überwachen und zu identifizieren.

In der Cardiff-Testversion unterscheidet sich die Technologie geringfügig von dem von IBM vorgestellten Typ. Es sollte nur auf Daten verweisen, die aus dem Archiv der Streitkräfte und der Liste der bekannten Straftäter stammen. Dies lindert alle Bedenken hinsichtlich der Verwendung von Daten aus sozialen Medien durch die Polizei, aber hier sind wir voll Kreis und zurück zum ursprünglichen Grund, warum IBM im ersten Versuch die Diversity of Faces-Studie durchführen wollte Platz.

Verbunden: Bestes kostenloses Antivirenprogramm

Wie Kasperskys Emm feststellte, kann dem Netzwerk ohne eine so vielfältige Datenbank wie die von IBM erprobte nicht vertraut werden.

"Für die Strafverfolgung - und andere Implementierer der Technologie - ist es wichtig, sich daran zu erinnern, dass die Gesichtserkennungstechnologie nicht perfekt ist", sagte er.

"Wir haben immer noch Probleme gesehen, zum Beispiel hat der jüngste Fall mit der Gesichtserkennungstechnologie von Amazon gezeigt, dass es viele gibt." Zuvor zu erledigende Arbeiten können als „zuverlässige Technologie“ betrachtet werden, und ihre Ergebnisse können in Umgebungen als vertrauenswürdig eingestuft werden, in denen kein Platz für sie vorhanden ist Error. Die Tatsache, dass dieses System bei weitem nicht perfekt ist. “

Die Rekognition-Technologie von Amazon wurde 2018 gesprengt, nachdem 28 Mitglieder des US-Kongresses fälschlicherweise als Polizeisubjekte identifiziert worden waren - und diejenigen, die sie gefingert hatten, waren überproportional farbige Menschen.

Amazon hat den Fehler auf menschliches Versagen und die falschen Einstellungen zurückgeführt, aber wenn diese Art von Technologie von genutzt werden soll Strafverfolgungsbehörden auf der ganzen Welt, dann eine bessere Schulung der Benutzer sowie eine bessere Anwendung der Technologie erforderlich.

In ähnlicher Weise verwendete die Londoner Metropolitan Police Gesichtserkennungstechnologie, um Beobachten Sie den Karneval in Notting Hill im Jahr 2017 mit einer Datenbank von 20 Millionen Gesichtsbildern, um Gesichter mit Verdächtigen abzugleichen - aber die Technologie hat eine 98% falsch positive Rateund schaffte es, 35 Menschen beim Karneval falsch zu kennzeichnen.

Die Polizei von Cardiff hatte auf die Anfrage von Trusted Reviews zur Klärung der tatsächlichen Festnahmen nicht geantwortet wurde zum Zeitpunkt der Veröffentlichung mit der Technologie hergestellt, sodass die Wirksamkeit der Studie vollständig beurteilt werden kann knifflig.

Wenn die Kommentare von Emm jedoch zutreffend sind, befinden sich die meisten Verbraucher zwischen einem Felsen und einem harten Ort. Einerseits können wir unsere Privatsphäre wahren, aber auf die Vorteile der Gesichtserkennung alles andere als auf lokaler Ebene verzichten. Dies ist sinnvoll, bedeutet jedoch, dass die Verbraucher die umfassenderen Vorteile verpassen werden, die reichlich vorhanden sind und Dinge wie Verbesserungen beinhalten Sicherheitsdienste, optimierte Check-ins an Flughäfen und möglicherweise in Zukunft ein neues System zur Bezahlung von Waren und Dienstleistungen.

Oder wir können akzeptieren, dass Regierungen der Strategie von IBM folgen und das Risiko eingehen, sich der Überwachung durch Big Brother zu öffnen. Keine der beiden Optionen klingt brillant, obwohl wir persönlich denken, bis rechtliche Garantien vorhanden sind und die Verbraucher besser wissen, wie ihre Daten verwendet werden. Option 1 ist der einzig sinnvolle Weg.

Sind Sie einverstanden? Lass es uns auf Twitter @TrustedReviews wissen