Η Microsoft διανέμει ένα εργαλείο ανίχνευσης Deepfake

Δεδομένου ότι τα deepfakes είναι δυνητικά καταστροφικά για τη φήμη κάποιου και είναι πολύ δύσκολο να εντοπιστούν όταν γίνουν σωστά, είναι ένα σημαντικό ζήτημα ασφάλειας. Τώρα, η Microsoft στοχεύει να βοηθήσει να σταματήσει το deepfakes, απελευθερώνοντας ένα εργαλείο που μπορεί να τα εντοπίσει.

Η απειλή που δημιουργούν οι deepfakes είναι τόσο σημαντική, προκάλεσε Facebook για την απαγόρευση όλου του περιεχομένου deepfake. Ωστόσο, το μεγαλύτερο εμπόδιο είναι το πώς γίνονται βαθιά ψεύτικα για να φαίνονται πειστικά. ως τέτοια, ο εντοπισμός και η επιβεβαίωση ενός deepfake είναι πολύ δύσκολη.

Το Facebook απαγορεύει Deepfakes και Photoshops

Το Facebook απαγορεύει deepfakes και Photoshopped φωτογραφίες. Η ιδέα είναι να αφαιρέσετε παραποιημένα μέσα σχεδιασμένα για να εξαπατούν τους χρήστες.

Όπως αναφέρεται στις Microsoft σχετικά με τα ζητήματα, η εταιρεία θέλει να το αλλάξει με το νέο της εργαλείο. Ονομάζεται Microsoft Video Authenticator και αναλύει βίντεο για να αναζητήσει τις "ραφές" που έχουν μείνει πίσω από τη δημιουργία deepfake. Αυτές οι ραφές είναι αόρατες στα ανθρώπινα μάτια, αλλά ένας υπολογιστής μπορεί να τις εντοπίσει χρησιμοποιώντας ανάλυση καρέ-καρέ.

Για την αποτροπή κακόβουλων παραγόντων από την αντίστροφη μηχανική της τεχνολογίας, το Microsoft Video Authenticator δεν θα είναι δημόσια έκδοση. Αντ 'αυτού, η Microsoft διανέμει το σύστημά της σε ειδήσεις και πολιτικούς οργανισμούς. Με αυτόν τον τρόπο, αυτοί οι οργανισμοί μπορούν να χρησιμοποιήσουν το εργαλείο για να διαχωρίσουν το πραγματικό από το ψεύτικο.

Ωστόσο, η Microsoft ανακοίνωσε μια δεύτερη τεχνολογία για τον εντοπισμό των deepfakes. Η εταιρεία προτείνει ένα σύστημα όπου ένας δημιουργός περιεχομένου μπορεί να προσθέσει ετικέτες στα βίντεό του με μια μοναδική "υπογραφή". Αν το βίντεο έχει επεξεργαστεί, θα δημιουργήσει διαφορετική υπογραφή από το πρωτότυπο, προσδιορίζοντας έτσι ένα βαθιά ψεύτικη.

Η συγγραφέας του Deep Fakes and the Infocalypse, Nina Schick, είπε τα εξής:

Η μόνη πραγματικά διαδεδομένη χρήση που έχουμε δει μέχρι στιγμής είναι η μη συναινετική πορνογραφία κατά των γυναικών. Αλλά τα συνθετικά μέσα αναμένεται να γίνουν πανταχού παρόντα σε περίπου τρία έως πέντε χρόνια, επομένως πρέπει να αναπτύξουμε αυτά τα εργαλεία στο μέλλον. Ωστόσο, καθώς οι δυνατότητες ανίχνευσης βελτιώνονται, έτσι και η ικανότητα παραγωγής - δεν είναι ποτέ πρόκειται για την περίπτωση που η Microsoft μπορεί να κυκλοφορήσει ένα εργαλείο που μπορεί να ανιχνεύσει όλα τα είδη βίντεο χειρισμός.

Τα Deepfakes είναι ένα σημαντικό πρόβλημα για την αξιοπιστία των μέσων ενημέρωσης και οι εταιρείες χρειάζονται έναν τρόπο πείτε τι είναι αληθινό από ό, τι είναι η φαντασία. Η Microsoft κυκλοφόρησε ένα εργαλείο για να εντοπίσει τα επεξεργασμένα βίντεο. Ωστόσο, το αν το εργαλείο θα είναι αρκετό για να συμβαδίζει με τους προγραμματιστές deepfake δεν έχει ακόμη δει.

Εάν δεν είστε σίγουροι για το τι είναι οι deepfakes και γιατί έχουν σημασία, σίγουρα αξίζει να αφιερώσετε λίγο χρόνο για να μάθετε για αυτά. Οι Deepfakes είναι έτοιμες να γίνουν ισοδύναμες αυτής της δεκαετίας με εικόνες "Photoshopping" και μπορεί να προκαλέσουν σοβαρή ζημιά εάν χρησιμοποιούνται κακόβουλα.

Deepfakes Επεξήγηση: Η τεχνητή νοημοσύνη που κάνει ψεύτικα βίντεο είναι πολύ πειστικά

Τα πλαστά βίντεο που δημιουργούνται από AI υπονομεύουν πλήρως την κατανόησή μας για παγκόσμια γεγονότα. Δείτε πώς τα deepfakes μπορεί να αλλάξουν τα πάντα.

Σχετικά με τον Συγγραφέα