H IBM σταματά την ανάπτυξη της τεχνολογίας αναγνώρισης προσώπου για λόγους ηθικής

Η IBM μέσω μιας επιστολής προς το αμερικανικό κονγκρέσο απο τον Arvind Krishna, τον CEO της εταιρίας, διεμήνυσε ότι δεν πρόκειται να παράγει απο εδω και πέρα λογισμικό αναγνώρισης προσώπου και παύει οποιαδήποτε ενασχόληση που αφορά την ανάπτυξη και ερευνα για τέτοιου είδους τεχνολογίες.

Συγκεκριμένα ανέφερε: «Η IBM αντιτίθεται σθεναρά και δεν θα επιτρέψει τη χρήση οποιασδήποτε τεχνολογίας αναγνώρισης προσώπου, συμπεριλαμβανομένης της τεχνολογίας αναγνώρισης προσώπου που προσφέρεται από άλλους προμηθευτές, για μαζική παρακολούθηση, φυλετικό προφίλ, παραβιάσεις των βασικών ανθρωπίνων δικαιωμάτων και ελευθεριών ή για οποιονδήποτε σκοπό που δεν συμβαδίζει με την αξίες και αρχές της εμπιστοσύνης και της διαφάνειας. Πιστεύουμε ότι τώρα είναι η ώρα να ξεκινήσουμε έναν εθνικό διάλογο σχετικά με το εάν και πώς πρέπει να χρησιμοποιείται η τεχνολογία αναγνώρισης προσώπου από τις υπηρεσίες επιβολής του νόμου».

Το λογισμικό αναγνώρισης προσώπου, γνωστό ως Face ID, έχει βελτιωθεί σημαντικά την τελευταία δεκαετία χάρη στην πρόοδο της τεχνητής νοημοσύνης (AI). Ταυτόχρονα, η τεχνολογία, επειδή συχνά παρέχεται από ιδιωτικές εταιρείες με μηδαμινό έλεγχο ή κρατική εποπτεία, φαίνεται να ενισχύει την προκατάληψη σε θέματα που αφορούν την ηλικία, τη φυλή και την εθνικότητα, γεγονός που καθιστά αυτη την τεχνολογία ως αναξιόπιστη για την επιβολή του νόμου και την ασφάλεια, καθώς και επικίνδυνη για πιθανές παραβιάσεις πολιτικών δικαιωμάτων.

Το 2018, η έρευνα των Joy Buolamwini και Timnit Gebru αποκάλυψε για πρώτη φορά το βαθμό στον οποίο πολλά εμπορικά συστήματα αναγνώρισης προσώπου (συμπεριλαμβανομένων των IBM) ήταν προκατειλημμένα. Αυτή η δουλειά και οι επακόλουθες μελέτες του οδήγησαν στην επικρατούσα κριτική αυτών των αλγορίθμων και σε συνεχείς προσπάθειες διόρθωσης της προκατάληψης.

Μια μελέτη του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας του Δεκεμβρίου 2019 (Στις Ηνωμένες Πολιτείες) διαπίστωσε «εμπειρικά στοιχεία για την ύπαρξη ενός ευρέος φάσματος ακρίβειας στις δημογραφικές διαφορές στην πλειονότητα των τρεχόντων αλγορίθμων αναγνώρισης προσώπου που αξιολογήθηκαν». Η τεχνολογία δέχθηκε επίσης πυρά για το ρόλο της στις παραβιάσεις της ιδιωτικότητας.

H μελέτη του Ινστιτούτου δεν περιελάμβανε την συγκεκριμένη τεχνολογία από την Amazon, η οποία είναι μία από τις λίγες μεγάλες εταιρείες τεχνολογίας που πωλούν λογισμικό αναγνώρισης προσώπου στις αρχές επιβολής του νόμου. Ωστόσο, το Rekognition, το όνομα του προγράμματος, έχει επίσης επικριθεί για την ακρίβειά του. Για παράδειγμα, το 2018, η Αμερικανική Ένωση Πολιτικών Ελευθεριών διαπίστωσε ότι το Rekognition ταυτοποιεί λανθασμένα 28 μέλη του Κογκρέσου με πρόσωπα που επιλέχθηκαν από 25.000 φωτογραφίες σήμανσης (mugshots).

Μια άλλη εταιρεία, η Clearview AI, έχει υποβληθεί σε αυστηρό έλεγχο από τις αρχές του τρέχοντος έτους, όταν ανακαλύφθηκε ότι το εργαλείο αναγνώρισης προσώπου, που κατασκευάστηκε με περισσότερες από 3 δισεκατομμύρια εικόνες που συλλέχθηκαν εν μέρει από την σάρωση ιστότοπων κοινωνικών μέσων, χρησιμοποιείται ευρέως από εταιρείες του ιδιωτικού τομέα και υπηρεσίες επιβολής του νόμου. Έκτοτε έχουν εκδώσει πολλές εντολές παύσης και διακοπής στην Clearview και βρίσκεται στο επίκεντρο μιας σειράς από αγωγές παραβίασης απορρήτου. Το Facebook διέταξε επίσης τον Ιανουάριο να πληρώσει 550 εκατομμύρια δολάρια για να διευθετήσει αγωγή για παράνομη χρήση της τεχνολογίας αναγνώρισης προσώπου.

Η IBM προσπάθησε να βοηθήσει με το ζήτημα της προκατάληψης στην αναγνώριση προσώπου, απελευθερώνοντας ένα δημόσιο σύνολο δεδομένων το 2018, σχεδιασμένο για να βοηθήσει στη μείωση της προκατάληψης ως μέρος των training data για ένα μοντέλο αναγνώρισης προσώπου. Ωστόσο, βρέθηκε ότι η IBM μοιράστηκε ένα ξεχωριστό σύνολο δεδομένων εκπαίδευσης σχεδόν ενός εκατομμυρίου φωτογραφιών τον Ιανουάριο του 2019 που ελήφθησαν από το Flickr χωρίς τη συγκατάθεση των υποκειμένων, αν και οι φωτογραφίες κοινοποιήθηκαν με την άδεια της Creative Commons. Η IBM είπε στο The Verge ότι το σύνολο δεδομένων θα προσπελάζονταν μόνο από ταυτοποιημένους ερευνητές και θα περιλάμβανε μόνο εικόνες που ήταν διαθέσιμες στο κοινό. Η εταιρεία είπε επίσης ότι τα άτομα μπορούν να επιλέξουν να εξαιρεθούν από το σύνολο των δεδομένων.

Στην επιστολή του, ο Κος Krishna υποστήριξε επίσης την πρόταση για αστυνομική μεταρρύθμιση, υποστηρίζοντας ότι περισσότερες αστυνομικές υποθέσεις παρατυπίας πρέπει να τεθούν υπό την αρμοδιότητα του ομοσπονδιακού δικαστηρίου και ότι το Κογκρέσο πρέπει να κάνει αλλαγές στο δόγμα της ειδικής ασυλίας. Επιπλέον, είπε ότι «πρέπει να δημιουργήσουμε πιο ανοιχτές και δίκαιες οδούς για όλους τους Αμερικανούς να αποκτήσουν εμπορεύσιμες δεξιότητες και εκπαίδευση».

πηγή: TheVerge