Το Twitter βγάζει πρόκληση με αμοιβή για να διορθώσει “ρατσιστικό” κόψιμο φωτογραφιών

Επιμέλεια Γεώργιος Φλώρου, φοιτητής ψυχολογίας

Το Twitter ανακοίνωσε νέα πρόκληση που θα πληρώνει κόσμο προκειμένου να κάνει κάτι καλό κατά του ρατσισμού. Η πρόκληση αυτή ανακοινώθηκε σαν μέρος του συνεδρίου γύρω από το Hacking “DEF CON” το οποίο ξεκινά στις 5 Αυγούστου, ώστε η εταιρία να καταφέρει να μειώσει τον ρατσιστικό αντίκτυπο του αλγορίθμου της.

Για τις φωτογραφίες που είναι μεγαλύτερες ή διαφορετικού σχήματος από την προεπισκόπηση, το Twitter επιλέγει ποιο τμήμα θα εμφανιστεί μέσω ενός αλγόριθμου. Τον Σεπτέμβρη του 2020 διάφοροι χρήστες ανέφεραν ότι ο αλγόριθμος έτεινε να δείχνει περισσότερα λευκά από ότι μαύρα πρόσωπα όταν επρόκειτο για μια εικόνα με περίεργο σχήμα που περιείχε και τα δύο. Το φαινόμενο έχει περιγραφεί ως μορφή “αλγοριθμικής προκατάληψης” όπου συνειδητά η μη ρατσιστικές διακρίσεις επηρεάζουν τις αποφάσεις που παίρνει ένας υπολογιστής. 

Ως απάντηση στο φαινόμενο, το Twitter μοιράστηκε τον τρόπο με τον οποίο αποφασίζει ο αλγόριθμος και ανέφεραν ότι θα το ελέγξουν. Με την πρόκληση όμως κάνουν ένα βήμα παραπάνω στην προσπάθεια καταπολέμησης, δίνοντας οικονομικό κίνητρο σε ανθρώπους να το ψάξουν. Οι “επικηρύξεις σφαλμάτων” είναι προγράμματα που εταιρίες ή άλλες ομάδες λανσάρουν όπου ανταμείβουν ανθρώπους (συχνά άσχετους με την εταιρία) για να βρίσκουν σφάλματα στις τεχνικές υποδομές τους. Συχνά επικεντρώνονται στην εύρεση δυνητικών παραβιάσεων ασφαλείας και οι διάφοροι οργανισμοί πληρώνουν “κυνηγούς σφαλμάτων” προκειμένου να τους ενημερώσουν για αυτά τα προβλήματα.

Έτσι το Twitter παίρνει αυτή την ιδέα και την εφαρμόζει στην πρόκληση της αλγοριθμικής προκατάληψης στην προεπισκόπηση των φωτογραφιών. Σκοπεύουν να δώσουν 3,500$ στον πρώτο που θα ανακαλύψει την αιτία αυτού, 1,000$ για την κάθε δεύτερη θέση που θα αφορά στην “πιο πρωτοποριακή” και στην “πιο γενικεύσιμη” λύση καθώς και 500$ στην τρίτη θέση. Πρόκειται για μια πολύ έξυπνη χρήση της “επικήρυξης σφαλμάτων” όπου το Twitter αντί να ζητήσει συγνώμη για τον αλγόριθμο και να “παίξει αμυντικά”, αποζητά βοήθεια ενεργητικά και σκοπεύει να πληρώσει για αυτό.

Σύμφωνα με μια δημοσίευση στο blog τους: “Θέλουμε να κάνουμε ένα βήμα παραπέρα καλώντας και δίνοντας κίνητρο στην κοινότητα να βοηθήσει στην εύρεση πιθανούς κινδύνους στον αλγόριθμο πέραν αυτών που έχουμε βρει οι ίδιοι”. “Με αυτή την πρόκληση σκοπεύουμε να θέσουμε ένα προηγούμενο στο Twitter αλλά και σε όλη την βιομηχανία για ενεργητική και συλλογική αναγνώριση κινδύνων σε αλγορίθμους’’. Η “επικήρυξη” αυτή τη φορά αφορά μόνο στην περικοπή των φωτογραφιών για προεπισκόπηση. Αλλά στην δημοσίευσή τους στο blog αναφέρονται στην “Πρώτη επικήρυξη κατά της αλγοριθμικής προκατάληψης του Twitter”. Οπότε ίσως να μην είναι και η τελευταία.

Πηγή : https://mashable.com/article/twitter-bug-bounty-photo-cropping-algorithmic-bias