Γιατί η Apple υποχώρησε στη λειτουργία σάρωσης φωτογραφιών;

Τον Αύγουστο του 2021, η Apple αποκάλυψε τα σχέδιά της να σαρώσει iPhone για εικόνες σεξουαλικής κακοποίησης παιδιών. Η κίνηση προκάλεσε χειροκροτήματα από ομάδες προστασίας παιδιών, αλλά προκάλεσε ανησυχίες μεταξύ των εμπειρογνωμόνων για την προστασία της ιδιωτικής ζωής και της ασφάλειας ότι η λειτουργία θα μπορούσε να χρησιμοποιηθεί κατά λάθος.

Η Apple σχεδίαζε αρχικά να συμπεριλάβει την τεχνολογία σάρωσης υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) στο iOS 15. Αντίθετα, καθυστέρησε επ 'αόριστον τη διάθεση της λειτουργίας για να ζητήσει σχόλια πριν από την πλήρη κυκλοφορία της.

Γιατί λοιπόν η λειτουργία ανίχνευσης CSAM έγινε θέμα έντονης συζήτησης και τι έκανε την Apple να αναβάλει την κυκλοφορία της;

Τι κάνει η λειτουργία σάρωσης φωτογραφιών της Apple;

Η Apple ανακοίνωσε ότι θα εφαρμόσει τη λειτουργία σάρωσης φωτογραφιών με την ελπίδα να καταπολεμήσει τη σεξουαλική κακοποίηση παιδιών. Όλες οι φωτογραφίες στις συσκευές των χρηστών της Apple θα σαρωθούν για παιδοφιλικό περιεχόμενο χρησιμοποιώντας τον αλγόριθμο "NueralHash" που δημιουργήθηκε από την Apple.

Επιπλέον, τυχόν συσκευές Apple που χρησιμοποιούνται από παιδιά θα έχουν ένα χαρακτηριστικό ασφαλείας που θα αυτόματα θολώνει τις εικόνες ενηλίκων εάν τις λάβει ένα παιδί και ο χρήστης θα ειδοποιηθεί δύο φορές εάν προσπαθήσει να ανοίξει τους.

Εκτός από την ελαχιστοποίηση της έκθεσης σε περιεχόμενο για ενήλικες, εάν οι γονείς καταχωρήσουν τις συσκευές που ανήκουν στα παιδιά τους για επιπλέον ασφάλεια, οι γονείς θα ειδοποιηθούν σε περίπτωση που το παιδί λάβει ρητό περιεχόμενο από οποιονδήποτε Σε σύνδεση.

Διαβάστε περισσότερα: Τι πρέπει να γνωρίζετε για τις Προστασίες Ασφάλειας Παιδιών της Apple

Όσο για τους ενήλικες που χρησιμοποιούν το Siri για να αναζητήσουν οτιδήποτε σεξουαλικοποιεί τα παιδιά, το Siri δεν θα κάνει αυτήν την αναζήτηση και θα προτείνει άλλες εναλλακτικές λύσεις.

Τα δεδομένα από οποιαδήποτε συσκευή που περιέχει 10 ή περισσότερες φωτογραφίες που θεωρούνται ύποπτες από τους αλγόριθμους θα αποκρυπτογραφηθούν και θα υποβληθούν σε ανθρώπινο έλεγχο.

Εάν αυτές οι φωτογραφίες ή οποιαδήποτε άλλη στη συσκευή αποδειχθεί ότι ταιριάζει με οτιδήποτε από τη βάση δεδομένων που παρέχεται από Εθνικό Κέντρο Αγνοουμένων και Εκμεταλλευόμενων Παιδιών, θα αναφερθεί στις αρχές και ο λογαριασμός του χρήστη θα τεθεί σε αναστολή.

Κύριες ανησυχίες σχετικά με τη λειτουργία σάρωσης φωτογραφιών

Η δυνατότητα ανίχνευσης CSAM θα ​​είχε ξεκινήσει με την κυκλοφορία του iOS 15 τον Σεπτέμβριο του 2021, αλλά στο πρόσωπο της ευρείας κατακραυγής, η Apple αποφάσισε να αφιερώσει περισσότερο χρόνο για να συλλέξει σχόλια και να κάνει βελτιώσεις σε αυτό χαρακτηριστικό. Εδώ είναι Ολόκληρη η δήλωση της Apple για την καθυστέρηση:

«Τον περασμένο μήνα ανακοινώσαμε σχέδια για δυνατότητες που θα βοηθήσουν στην προστασία των παιδιών από τα αρπακτικά ζώα που χρησιμοποιήστε εργαλεία επικοινωνίας για να τα στρατολογήσετε και να τα εκμεταλλευτείτε και να περιορίσετε τη διάδοση της σεξουαλικής κακοποίησης παιδιών Υλικό.

Με βάση τα σχόλια από πελάτες, ομάδες υπεράσπισης, ερευνητές και άλλους, αποφασίσαμε να αφιερώσουμε επιπλέον χρόνο τους επόμενους μήνες για να συλλέξουμε πληροφορίες και να κάνουμε βελτιώσεις πριν από την απελευθέρωση αυτών των κρίσιμης σημασίας παιδικής ασφάλειας χαρακτηριστικά".

Σχεδόν οι μισές ανησυχίες που σχετίζονται με τη λειτουργία σάρωσης φωτογραφιών της Apple περιστρέφονται γύρω από την ιδιωτικότητα. τα υπόλοιπα επιχειρήματα περιλαμβάνουν την πιθανή ανακρίβεια των αλγορίθμων και πιθανή κακή χρήση του συστήματος ή των κενών του.

Ας το χωρίσουμε σε τέσσερα μέρη.

Πιθανή κακή χρήση

Γνωρίζοντας ότι οποιοδήποτε υλικό που ταιριάζει με παιδική πορνογραφία ή γνωστές εικόνες σεξουαλικής κακοποίησης παιδιών θα μπει μια συσκευή στη λίστα "ύποπτων" μπορεί να θέσει σε κίνηση τους εγκληματίες στον κυβερνοχώρο.

Μπορούν σκόπιμα να βομβαρδίσουν ένα άτομο με ακατάλληλο περιεχόμενο μέσω iMessage, WhatsApp ή οποιουδήποτε άλλου μέσου και να αναστείλουν τον λογαριασμό αυτού του ατόμου.

Η Apple διαβεβαίωσε ότι οι χρήστες μπορούν να υποβάλουν έφεση σε περίπτωση που οι λογαριασμοί τους έχουν τεθεί σε αναστολή λόγω παρεξήγησης.

Insider Abuse

Αν και έχει σχεδιαστεί για καλό σκοπό, αυτή η δυνατότητα μπορεί να μετατραπεί σε πλήρη καταστροφή για ορισμένα άτομα, εάν οι συσκευές τους εγγράφονται στο σύστημα, με ή χωρίς τη γνώση τους, από συγγενείς που ενδιαφέρονται να παρακολουθούν την επικοινωνία τους.

Ακόμα κι αν αυτό δεν συμβεί, η Apple έχει δημιουργήσει μια πίσω πόρτα για να κάνει τα δεδομένα των χρηστών προσβάσιμα στο τέλος της ημέρας. Τώρα είναι ζήτημα κινήτρου και αποφασιστικότητας οι άνθρωποι να έχουν πρόσβαση στις προσωπικές πληροφορίες άλλων ανθρώπων.

Σχετίζεται με: Τι είναι το Backdoor και τι κάνει;

Δεν διευκολύνει μόνο μια σημαντική παραβίαση της ιδιωτικής ζωής, αλλά ανοίγει το δρόμο για καταχρηστικό, τοξικό ή έλεγχο συγγενείς, κηδεμόνες, φίλοι, εραστές, φροντιστές και πρώην για να εισβάλουν περαιτέρω στον προσωπικό χώρο κάποιου ή να περιορίσουν ελευθερία.

Αφενός, προορίζεται για την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών. από την άλλη, μπορεί να χρησιμοποιηθεί για να διαιωνίσει περαιτέρω άλλα είδη κακοποίησης.

Κυβερνητική Επιτήρηση

Η Apple ανέκαθεν προβάλλει τον εαυτό της ως ένα εμπορικό σήμα με μεγαλύτερη προστασία της ιδιωτικής ζωής από τους ανταγωνιστές της. Αλλά τώρα, μπορεί να εισέρχεται σε μια ολισθηρή κλίση της ανάγκης να εκπληρώσει τις ατελείωτες απαιτήσεις διαφάνειας δεδομένα χρηστών από τις κυβερνήσεις.

Το σύστημα που έχει δημιουργήσει για την ανίχνευση παιδοφιλικού περιεχομένου μπορεί να χρησιμοποιηθεί για τον εντοπισμό κάθε είδους περιεχομένου στα τηλέφωνα. Αυτό σημαίνει ότι οι κυβερνήσεις με μια νοοτροπία λατρείας μπορούν να παρακολουθούν τους χρήστες σε πιο προσωπικό επίπεδο, αν το πάρουν στα χέρια τους.

Καταπιεστική ή όχι, η εμπλοκή της κυβέρνησης στην καθημερινή και προσωπική σας ζωή μπορεί να είναι ανησυχητική και αποτελεί εισβολή στην ιδιωτική σας ζωή. Η ιδέα ότι πρέπει να ανησυχείτε για τέτοιες εισβολές εάν έχετε κάνει κάτι λάθος είναι λανθασμένη σκέψη και δεν βλέπει την προαναφερθείσα ολισθηρή κλίση.

Falευδείς Συναγερμοί

Μια από τις μεγαλύτερες ανησυχίες για τη χρήση αλγορίθμων για να ταιριάξετε εικόνες με τη βάση δεδομένων είναι οι ψευδείς συναγερμοί. Οι αλγόριθμοι κατακερματισμού μπορούν λανθασμένα να αναγνωρίσουν δύο φωτογραφίες ως αντιστοιχίσεις ακόμη και όταν δεν είναι ίδιες. Αυτά τα λάθη, που ονομάζονται "συγκρούσεις", είναι ιδιαίτερα ανησυχητικά στο πλαίσιο του περιεχομένου σεξουαλικής κακοποίησης παιδιών.

Οι ερευνητές βρήκαν αρκετές συγκρούσεις στο "NeuralHash" αφού η Apple ανακοίνωσε ότι θα χρησιμοποιήσει τον αλγόριθμο για τη σάρωση εικόνων. Η Apple απάντησε σε ερωτήσεις σχετικά με ψευδείς συναγερμούς επισημαίνοντας ότι το αποτέλεσμα θα αναθεωρηθεί από έναν άνθρωπο στο τέλος, οπότε οι άνθρωποι δεν χρειάζεται να ανησυχούν για αυτό.

Είναι η παύση CSAM της Apple μόνιμη;

Υπάρχουν πολλά πλεονεκτήματα και μειονεκτήματα της προτεινόμενης δυνατότητας της Apple. Κάθε ένα από αυτά είναι γνήσιο και διατηρεί βάρος. Δεν είναι ακόμη σαφές ποιες συγκεκριμένες αλλαγές θα μπορούσε να εισαγάγει η Apple στη δυνατότητα σάρωσης CSAM για να ικανοποιήσει τους επικριτές της.

Θα μπορούσε να περιορίσει τη σάρωση σε κοινόχρηστα άλμπουμ iCloud αντί να περιλαμβάνει τις συσκευές των χρηστών. Είναι πολύ απίθανο η Apple να εγκαταλείψει αυτά τα σχέδια εντελώς, καθώς η εταιρεία δεν είναι συνήθως διατεθειμένη να ενδώσει στα σχέδιά της.

Ωστόσο, είναι σαφές από την ευρεία αντίδραση και την αναστολή της Apple στα σχέδιά της οι εταιρείες θα πρέπει να ενσωματώσουν την ερευνητική κοινότητα από την αρχή, ειδικά για ένα μη δοκιμασμένο τεχνολογία.

Ασφάλεια στο Διαδίκτυο: 50+ Συμβουλές για να έχετε τα παιδιά σας ασφαλή στο διαδίκτυο

Τα παιδιά είναι πρωταρχικοί στόχοι για διαδικτυακά αρπακτικά και κυβερνο -εκφοβιστές. Αυτές οι χρήσιμες συμβουλές μπορούν να διδάξουν στους γονείς πώς να τους διατηρούν ασφαλείς στο διαδίκτυο.

Διαβάστε Επόμενο

Σχετικά με τον Συγγραφέα