Το Twitter αποκαλύπτει την εκτροπή της τεχνητής νοημοσύνης λόγω της προκατάληψης των φυλών και των φύλων

Την πρώτη φορά που ακούσαμε την ιδέα ότι ο αλγόριθμος περικοπής εικόνων του Twitter μπορεί να έχει κάποιες προκαταλήψεις ήταν ο Σεπτέμβριος 2020. Ο κρυπτογραφικός μηχανικός Tony Arcieri ανέβασε δύο εικόνες με τον ηγέτη της πλειοψηφίας της Γερουσίας Mitch McConnell και τον πρώην πρόεδρο Μπαράκ Ομπάμα, και το AI έπεσε στο πρόσωπο του McConnell και τις δύο φορές.

Όταν η διαμάχη έφτασε τελικά στους ανθρώπους στο Twitter, η εταιρεία υποσχέθηκε να αναλύσει το μοντέλο της. Τέλος, διαβάζουμε αυτά τα ευρήματα.

Το Twitter μοιράζεται τα αποτελέσματα της ανάλυσης αλγορίθμου του

Στις αρχές Μαΐου, Το Twitter παρουσίασε τελικά προεπισκοπήσεις εικόνας πλήρους μεγέθους στα χρονοδιαγράμματα για κινητά. Μια ανάρτηση στο ιστολόγιο Twitter αποκάλυψε ότι η εφαρμογή έφερε τον αλγόριθμο περικοπής εικόνων μετά από ανάλυση που έδειξε ότι είχε προκαταλήψεις βάσει φυλής και φύλου.

Η πλατφόρμα άρχισε να χρησιμοποιεί αλγόριθμο saliency το 2018 για να περικόψει τις εικόνες της. Το Twitter αναφέρει ότι τα μοντέλα αρεσκείας εκπαιδεύονται σε δεδομένα παρακολούθησης ανθρώπινων ματιών, τα οποία στη συνέχεια χρησιμοποιούνται από το αλγόριθμος για την εκτίμηση των θεμάτων / στοιχείων στην εικόνα που πιστεύει ότι είναι πολύ πιθανό να είναι σημαντικό για τα περισσότερα Ανθρωποι.

Στη συνέχεια, ο αλγόριθμος θα έδινε μια βαθμολογία προεξοχής για όλα τα μέρη της εικόνας πριν επιλέξει το σημείο με την υψηλότερη βαθμολογία να είναι το κέντρο της περικοπής.

Αφού διεξήγαγε μια ποσοτική δοκιμή για να ελέγξει για πιθανές προκαταλήψεις, η ομάδα διαπίστωσε ότι ο αλγόριθμος αλαζονείας φαίνεται να ευνοεί τις γυναίκες έναντι των ανδρών και τους λευκούς ανθρώπους έναντι των μαύρων.

Το Twitter δοκίμασε επίσης τον αλγόριθμο για το «αρσενικό βλέμμα», αλλά δεν βρέθηκε καμία ένδειξη προκατάληψης αντικειμενοποίησης.

Ακόμα κι αν ο αλγόριθμος αρεσκείας προσαρμόστηκε ώστε να αντικατοπτρίζει την τέλεια ισότητα μεταξύ των υποομάδων φυλών και φύλων, εμείς [Twitter] από την αντιπροσωπευτική βλάβη του αυτοματοποιημένου αλγορίθμου όταν οι άνθρωποι δεν επιτρέπεται να εκπροσωπούνται όπως επιθυμούν στο πλατφόρμα. Το Saliency διατηρεί επίσης άλλες πιθανές βλάβες πέρα ​​από το πεδίο αυτής της ανάλυσης, συμπεριλαμβανομένων των ευαισθησιών στις πολιτισμικές αποχρώσεις.

Κατά την εξέταση των αντισταθμίσεων μεταξύ της ταχύτητας και της συνέπειας της αυτόματης καλλιέργειας και των κινδύνων της, Το Twitter λέει ότι η ομάδα του συνειδητοποίησε ότι ο τρόπος περικοπής μιας εικόνας είναι μια απόφαση που λαμβάνεται καλύτερα από τους ανθρώπους - όχι αλγόριθμοι.

Σχετιζομαι με: Τεχνολογικές τάσεις που αλλάζουν ήδη το μέλλον

Το Twitter απαλλάσσεται από την αυτόματη περικοπή εικόνας

Το Twitter δεν χρησιμοποιεί πλέον τον αλγόριθμο saliency και τώρα εμφανίζει πλήρως τις τυπικές αναλογίες φωτογραφιών σε iOS και Android. Όταν δημιουργείτε ένα tweet, θα διαπιστώσετε ότι η νέα ενημέρωση περιλαμβάνει επίσης μια πραγματική προεπισκόπηση των μεταφορτωμένων εικόνων, έτσι ώστε να γνωρίζετε πώς θα φαίνονται όλα όταν δημοσιευτούν.

Εάν σας ενδιαφέρει να διαβάσετε το ακαδημαϊκό έγγραφο της μελέτης, μπορείτε να το βρείτε arXiv.org. Μπορείτε επίσης να βρείτε τον κωδικό του Twitter για την ανάλυση GitHub.

Τρόπος μεταφόρτωσης και προβολής εικόνων 4K στο Twitter

Η εφαρμογή Twitter σάς επιτρέπει τώρα να ανεβάζετε και να βλέπετε εικόνες σε 4K. Δείτε πώς μπορείτε να αλλάξετε τις ρυθμίσεις σας.

Διαβάστε Επόμενο

Σχετικά με τον Συγγραφέα