Οι χρήστες του Twitter Ανακαλύπτουν Πιθανή Φυλετική Μεροληψία στον Αλγόριθμο Auto-Crop

Το Twitter προσπαθεί να προσδιορίσει γιατί η λειτουργία προεπισκόπησης φωτογραφιών του δείχνει σημάδια φυλετικής προκατάληψης. Πολλοί χρήστες διαπίστωσαν ότι τα μαύρα πρόσωπα ήταν πιο πιθανό να περικοπούν από τις προεπισκοπήσεις φωτογραφιών σε σύγκριση με τα λευκά πρόσωπα.

Ένα ελάττωμα στον αλγόριθμο του Twitter

Όταν βλέπετε μια εικόνα στο Twitter, είναι απλώς μια προεπισκόπηση που πρέπει να κάνετε κλικ σε αυτήν για να δείτε ολόκληρη την εικόνα. Το Twitter χρησιμοποιεί έναν αλγόριθμο για περικοπή φωτογραφιών, υπαγορεύοντας τι θα δείτε στις προεπισκοπήσεις εικόνων.

Το 2018, το Twitter ανακοίνωσε την έξυπνη λειτουργία αυτόματης περικοπής σε μια ανάρτηση στο Ιστολόγιο Twitter. Αυτή η λειτουργία χρησιμοποιεί το "saliency" για να ακονίσει τα πιο εμφανή μέρη των φωτογραφιών και στη συνέχεια περικόπτει τις προεπισκοπήσεις φωτογραφιών ανάλογα.

Οι χρήστες του Twitter ανακάλυψαν ότι το νευρικό δίκτυο της πλατφόρμας μπορεί να έχει φυλετική προκατάληψη. Ένας χρήστης δημοσίευσε μια φωτογραφία του γερουσιαστή των ΗΠΑ Mitch McConnell μαζί με τον πρώην πρόεδρο Μπαράκ Ομπάμα.

Η προεπισκόπηση της εικόνας κόβει καθαρά το πρόσωπο του Ομπάμα, ακόμη και όταν το πρόσωπό του είναι τοποθετημένο στην κορυφή της φωτογραφίας. Όταν ο ίδιος χρήστης προσπάθησε να αντιστρέψει τα χρώματα της εικόνας, το πρόσωπο του Ομπάμα τελικά εμφανίστηκε στην προεπισκόπηση της εικόνας.

Άλλοι χρήστες άρχισαν να πραγματοποιούν τα δικά τους πειράματα. Επαναλαμβανόμενα, οι χρήστες διαπίστωσαν ότι ο αλγόριθμος φαίνεται να προτιμά με συνέπεια τα λευκά πρόσωπα από τα μαύρα πρόσωπα.

Η Liz Kelley, μέλος της ομάδας επικοινωνιών του Twitter, έστειλε ένα Tweet ως απάντηση στα ευρήματα των χρηστών του Twitter. Σημείωσε ότι ενώ η ομάδα του Twitter έχει ήδη δοκιμάσει τον αλγόριθμο για μεροληψία, θα πρέπει να διερευνήσει περαιτέρω.

Όλες αυτές οι ανακαλύψεις προέρχονταν από το Tweet ενός χρήστη για ένα Ζήτημα κλήσης ζουμ. Το Zoom απέτυχε συνεχώς να εντοπίσει το πρόσωπο του μαύρου φίλου του όταν προσπάθησε να χρησιμοποιήσει ένα εικονικό φόντο. Όταν ο χρήστης στράφηκε στο Twitter για να δημοσιεύσει στιγμιότυπα οθόνης του προβλήματος, το Twitter έκοψε τον μαύρο φίλο του από την προεπισκόπηση της εικόνας.

Αφαίρεση προκατάληψης από το Twitter

Ενώ όλα αυτά τα πειράματα είναι ανεπίσημα, φαίνεται να επισημαίνουν ένα πραγματικό ζήτημα. Το Twitter σίγουρα θα πρέπει να ρίξει μια πιο προσεκτική ματιά στη λειτουργία αυτόματης περικοπής και να δει αν έχει μια φυλετική προκατάληψη.

Ωστόσο, ο αλγόριθμος αυτόματης περικοπής του Twitter δεν είναι το μόνο χαρακτηριστικό του Twitter που έχει επικριθεί. Σε τελική ανάλυση, πολλοί χρήστες δεν είναι επίσης οπαδοί του αλγορίθμου της πλατφόρμας που τακτοποιεί αυτόματα τη ροή σας.

Πώς (και γιατί) να απενεργοποιήσετε τις αλγοριθμικές ροές στο Twitter, το Instagram και το Facebook

Οι αλγοριθμικές ροές εξυπηρετούν μόνο κοινωνικά δίκτυα. Δείτε πώς μπορείτε να αλλάξετε τις χρονολογικές ροές στο Twitter, το Instagram και το Facebook.

Σχετικά με τον Συγγραφέα