Η Google exec εκδίδει έντονη προειδοποίηση σχετικά με την «προκατειλημμένη» τεχνολογία αναγνώρισης προσώπου AI

Η τεχνολογία αναγνώρισης προσώπου εξακολουθεί να φέρει «εγγενείς προκαταλήψεις» και απαιτεί περισσότερες δοκιμές για την καταπολέμηση ζητημάτων με διαφορετικότητα, σύμφωνα με ανώτατο στέλεχος της Google.

Η Diane Greene, επικεφαλής του cloud computing της Google, προειδοποίησε ότι οι κορυφαίες εταιρείες τεχνολογίας πρέπει να είναι προσεκτικές με τη χρήση της τεχνολογίας.

Η προειδοποίηση έρχεται αφού το λογισμικό αναγνώρισης της Amazon αναγνώρισε εσφαλμένα 28 μέλη του Κογκρέσου των ΗΠΑ ως υπάλληλοι της αστυνομίας. Αυτοί που εντοπίστηκαν ήταν δυσανάλογα άτομα χρώματος. Η Amazon λέει ότι απλώς χρησιμοποίησε τις λάθος ρυθμίσεις για τη δοκιμή. Ωστόσο, η ίδια τεχνολογία είναι φέρεται να χρησιμοποιείται από αστυνομικές δυνάμεις στις Ηνωμένες Πολιτείες.

Η Google, φυσικά, προσγειώθηκε σε ζεστό νερό το 2015 όταν αναγκάστηκε να ζητήσει συγγνώμη για την τεχνολογία αναζήτησης εικόνων, αναγνωρίζοντας ένα μαύρο ζευγάρι ως γορίλες.

«Πρέπει να είμαστε πολύ προσεκτικοί σχετικά με το πώς χρησιμοποιούμε αυτό το είδος τεχνολογίας», αυτή

είπε στο BBC. «Σκεφτόμαστε πολύ βαθιά. Η ανθρωπιστική πλευρά της τεχνητής νοημοσύνης - δεν έχει την ποικιλομορφία που χρειάζεται και τα ίδια τα δεδομένα θα έχουν κάποιες εγγενείς προκαταλήψεις, οπότε όλοι προσπαθούν να το καταλάβουν. "

«Νομίζω ότι όλοι θέλουν να κάνουν το σωστό. Είμαι βέβαιος ότι η Amazon θέλει επίσης να κάνει το σωστό. Αλλά είναι μια νέα τεχνολογία, είναι μια πολύ ισχυρή τεχνολογία. "

Σχετιζομαι με: Καλύτερο VPN

Η Αμερικανική Ένωση Πολιτικών Ελευθεριών λέει ότι οι εταιρείες τεχνολογίας και οι αρχές επιβολής του νόμου θα πρέπει να περιοριστούν στη χρήση της τεχνολογίας αναγνώρισης προσώπου έως ότου υπάρξει επαρκής συζήτηση σχετικά με τα πλεονεκτήματά της.

Η ACLU λέει: «Μιλώντας για την αναγνώριση προσώπου ευρύτερα, η ACLU είπε:« Το Κογκρέσο πρέπει να θεσπίσει ομοσπονδιακό μορατόριουμ σχετικά με τη χρήση αυτής της τεχνολογίας από την επιβολή του νόμου έως ότου μπορέσει να υπάρξει πλήρης συζήτηση σχετικά με το ποιες - αν υπάρχουν - χρήσεις επιτρεπόμενο."

Πιστεύετε ότι είναι σωστό για την αστυνομία να χρησιμοποιεί τεχνολογία αναγνώρισης προσώπου για τον εντοπισμό πιθανών παραβατών; Αφήστε μας μια γραμμή @TrustedReviews στο Twitter.