Αυτό το άρθρο είναι μια συνέχεια των τύπων. Πριν από έξι μήνες ανακοινώσαμε ότι η Microsoft εργαζόταν σε μια επιδιόρθωση για λογισμικό αναγνώρισης προσώπου που θεωρήθηκε ρατσιστικά προκατειλημμένο. Τώρα, η ίδια η εταιρεία απαιτεί να ρυθμιστεί η αναγνώριση προσώπου για να αποφευχθεί η μεροληψία. Έτσι ορίστηκε με προκατειλημμένο λογισμικό, και τώρα θέλουν ολόκληρος ο κλάδος να ρυθμιστεί για να αποτρέψει οποιονδήποτε άλλον να αποκτήσει λογισμικό με ρατσιστική προκατάληψη.
Γρήγοροι σύνδεσμοι
Πρωταρχικό πρόβλημα
Όπως αναφέραμε τον Ιούνιο, το API διεπαφής χρήστη της Microsoft, το οποίο βασίζεται στο Azure, επικρίθηκε σε μια ερευνητική εργασία. Το πρόγραμμα είχε δυσκολία να αναγνωρίσει άτομα με σκούρο χρώμα ή που ήταν γυναίκες. Το ποσοστό λάθους ήταν έως και 20.8%, αλλά με «πιο ανοιχτόχρωμα αρσενικά πρόσωπα» το ποσοστό σφάλματος ήταν μηδέν τοις εκατό.
Ο λόγος πίσω από αυτή τη διαφορά στην αναγνώριση είναι ότι η τεχνητή νοημοσύνη πρέπει να προγραμματιστεί από ανθρώπους. Τα αποτελέσματα θα είναι τόσο καλά όσο τα άτομα που έκαναν τον προγραμματισμό. Οι προγραμματιστές της Microsoft δεν χρησιμοποίησαν αρκετά άτομα με πιο σκούρο δέρμα ή αρκετές γυναίκες.
Η Microsoft το διόρθωσε διαφοροποιώντας τα δεδομένα εκπαίδευσης και άρχισε να δοκιμάζει εσωτερικά τα συστήματά της πριν από την ανάπτυξη. Κατάφεραν να μειώσουν το ποσοστό σφαλμάτων για τα άτομα με σκουρόχρωμο δέρμα έως και είκοσι φορές και το ποσοστό σφαλμάτων για τις γυναίκες κατά εννέα φορές.
Πληρώστε για τη νομοθεσία
Έξι μήνες αργότερα, ρώτησα Η Microsoft από τις κυβερνήσεις θα εγκρίνει νομοθεσία που απαιτεί τη δοκιμή της τεχνολογίας αναγνώρισης προσώπου ανεξάρτητα για να διασφαλίσει ότι είναι ακριβές, να αποτρέψει την προκατάληψη και να προστατεύσει τα δικαιώματα των χρηστών.
«Το τζίνι της αναγνώρισης προσώπου, να το πω έτσι, μόλις βγήκε από το μπουκάλι», είπε ο Μπραντ Σμιθ, ανώτερος σύμβουλος της Microsoft, σε μια ανάρτηση στο blog.
«Αν δεν ενεργήσουμε, κινδυνεύουμε να ξυπνήσουμε σε πέντε χρόνια από τώρα για να διαπιστώσουμε ότι οι υπηρεσίες αναγνώρισης προσώπου έχουν πολλαπλασιαστεί με τρόπους που επιδεινώνουν τα κοινωνικά προβλήματα. Μέχρι τότε, αυτές οι προκλήσεις θα είναι πολύ πιο δύσκολες.
Η εταιρεία ζητά τα αποτελέσματα της αναγνώρισης προσώπου να ελέγχονται από τους ανθρώπους αντί να αφήνονται στους υπολογιστές.
Αυτό περιλαμβάνει μέρη όπου οι αποφάσεις μπορεί να οδηγήσουν σε κινδύνους σωματικής ή συναισθηματικής βλάβης στον καταναλωτή, όπου μπορεί να υπάρξουν επιπτώσεις για τα ανθρώπινα δικαιώματα ή τα θεμελιώδη δικαιώματα και όπου μπορεί να παραβιαστεί η προσωπική ελευθερία ή το προσωπικό απόρρητο του καταναλωτή.
Επιπλέον, ο Smith πρότεινε ότι όσοι χρησιμοποιούν την αναγνώριση προσώπου πρέπει να «αναγνωρίσουν ότι δεν έχουν απαλλαγεί από την υποχρέωσή τους να συμμορφώνονται με τους νόμους που απαγορεύουν τις διακρίσεις σε βάρος μεμονωμένων καταναλωτών ή ομάδων καταναλωτών».
Ήθελε επίσης να βεβαιωθεί ότι η χρήση της αναγνώρισης προσώπου από την κυβέρνηση δεν ισοδυναμεί με τις δημοκρατικές ελευθερίες και τα ανθρώπινα δικαιώματα των ανθρώπων.
«Πρέπει να διασφαλίσουμε ότι το έτος 2024 δεν μοιάζει με σελίδα από το μυθιστόρημα 1984», κατέληξε.
Επιπλέον αυτό
Η Microsoft έχει δίκιο φυσικά. Είναι ενδιαφέρον ότι πριν από έξι μήνες δεν αναγνώρισαν την ανάγκη να προσέχουν τα προγράμματά τους να μην ξεχωρίζουν, και τώρα όχι μόνο το συνειδητοποιούν, αλλά θέλουν επίσης να βεβαιωθούν ότι κανένας άλλος δεν μπορεί να κάνει τα ίδια λάθη. Εκαναν.
Ανεξάρτητα από την προηγούμενη κατάστασή τους, έχει δίκιο η Microsoft να απαιτεί νομοθεσία και έλεγχο των επιλογών αναγνώρισης προσώπου; Πείτε μας τις σκέψεις σας για την παραγγελία της Microsoft στην παρακάτω ενότητα σχολίων.
