6 μεγάλα προβλήματα με τη μουσική Deepfake

Νέα τραγούδια διάσημων καλλιτεχνών γίνονται viral στα μέσα κοινωνικής δικτύωσης, κάτι που συνήθως δεν αποτελεί πρόβλημα, παρά μόνο όταν τραγουδά ένας κλώνος φωνής. Ενώ ήταν ένα από τα τελευταία μέσα που άντεξαν, η deepfake μουσική είναι πλέον πραγματικότητα.

Λειτουργεί εκπαιδεύοντας ένα μοντέλο AI στη φωνή ενός τραγουδιστή και τα αποτελέσματα δεν είναι πάντα άσχημα. Υπάρχει άφθονη πραγματική δημιουργικότητα για τη δημιουργία deepfake τραγουδιών, αλλά το πρόβλημα δεν είναι μόνο στο output. Σε πολλές περιπτώσεις, η άδεια δεν χορηγείται και οι ερωτήσεις σχετικά με το ποιος πληρώνεται και εάν είναι ηθικό, είναι μόνο μερικά από τα προβλήματα της deepfake μουσικής.

1. Μη εξουσιοδοτημένα σύνολα δεδομένων

Εάν θέλετε να δημιουργήσετε ένα deepfake κομμάτι ενός διάσημου καλλιτέχνη, πρέπει να συγκεντρώσετε αρχεία ήχου της φωνής του που τραγουδάει σε ένα σύνολο δεδομένων. Όπως όλα τα δεδομένα που ανήκουν σε κάποιον, πιθανότατα θα πρέπει να λάβετε την άδειά του για να τα χρησιμοποιήσετε, αλλά ένα deepfake το τραγούδι μπορεί να φτάσει σε μια μεγάλη μουσική πλατφόρμα όπως το YouTube, το Spotify ή το TikTok, έχοντας χρησιμοποιήσει μη εξουσιοδοτημένο σύνολο δεδομένων.

Αυτό συνέβη στους καλλιτέχνες Drake και The Weeknd όταν ένας χρήστης που ονομάζεται Ghostwriter δημιούργησε το "Heart on My Sleeve". Το επιτυχημένο τραγούδι περιλάμβανε τις φωνές των καλλιτεχνών με σύνθεση AI, με στίχους για την πρώην κοπέλα του The Weeknd.

Το τραγούδι απολάμβανε ειλικρινά οι θαυμαστές, με πρόσθετους επαίνους στον Ghostwriter για τη δημιουργική χρήση των deepfake φωνητικών, αλλά όπως Οι Seattle Times ανέφεραν, δεν το είδαν όλοι έτσι. Ένας εκπρόσωπος του Universal Music Group, της μεγάλης δισκογραφικής πίσω από τους δύο καλλιτέχνες, ρωτά:

«Σε ποια πλευρά της ιστορίας θέλουν να είναι οι ενδιαφερόμενοι στο μουσικό οικοσύστημα: στην πλευρά των καλλιτεχνών, των θαυμαστών και ανθρώπινη δημιουργική έκφραση, ή στο πλευρό των πλαστών, της απάτης και της άρνησης στους καλλιτέχνες την οφειλόμενη αποζημίωση;».

2. Απαρχαιωμένος νόμος περί πνευματικών δικαιωμάτων

Εάν είστε καλλιτέχνης που δεν θέλετε να κλωνοποιηθεί η φωνή σας, η νομοθεσία περί πνευματικών δικαιωμάτων μπορεί να μην μπορεί να σας βοηθήσει ακόμα. Δεδομένου ότι οι νόμοι μας για τα πνευματικά δικαιώματα γράφτηκαν σε μια εποχή που δεν υπήρχε αυτός ο τύπος τεχνολογίας AI, δεν αποτελεί έκπληξη το γεγονός ότι οι νόμοι εξακολουθούν να προσπαθούν να καλύψουν τη διαφορά.

Η πλησιέστερη νομική υπόθεση «κλοπής φωνής» στις ΗΠΑ χρονολογείται από τη δεκαετία του 1990. Οπως και αναφέρουν οι Los Angeles Times, ο τραγουδιστής Tom Waits κέρδισε 2,475 εκατομμύρια δολάρια ως αποζημίωση από την Frito-Lay Inc., τον πανίσχυρο γίγαντα των τσιπ πίσω από τους Doritos, Cheetos, Cracker Jack's και πολλά άλλα.

Η διαφήμιση χρησιμοποιούσε τη φωνή κάποιου που ακουγόταν αρκετά κοντά στον Τομ Γουέιτς ώστε ο κόσμος να πιστέψει ότι ο πραγματικός καλλιτέχνης βρισκόταν πίσω από τη διαφημιστική καμπάνια. Το ίδιο θα μπορούσε να ειπωθεί για τα deepfake τραγούδια που κυκλοφορούν αυτή τη στιγμή, αλλά η μουσική AI δεν έχει ακόμη δοκιμαστεί σε δικαστική μάχη.

Καθώς περιμένουμε την ενημέρωση του νομικού συστήματος, αξίζει να σημειωθεί ότι δεν αντιμετωπίζουν όλοι πρόβλημα με τους ανθρώπους να κλωνοποιούν τη φωνή τους. Χόλι Χέρντον, για παράδειγμα. Αντιμετωπίζοντας την επερχόμενη παλίρροια των εφαρμογών μουσικής AI, επέλεξε να εξουσιοδοτήσει το φωνητικό της δίδυμο που ονομάζεται Holly+ μαζί με ένα σύστημα που της έδινε δίκαιη αμοιβή.

Όποια πλευρά κι αν πάρεις, το πρόβλημα παραμένει το ίδιο. Δεν υπάρχει συγκεκριμένος νόμος περί πνευματικών δικαιωμάτων που να λέει ότι πρέπει να λάβετε άδεια από τον καλλιτέχνη πριν χρησιμοποιήσετε τη φωνή του. Μέχρι τότε, οι καλλιτέχνες μπορεί να βρεθούν στην άγρια ​​δύση της τεχνολογίας AI, χωρίς νόμους που να τους καθοδηγούν.

3. Ποιος πληρώνεται;

Είναι εντάξει να βγάζετε χρήματα από τη μουσική χρησιμοποιώντας τη φωνή κάποιου; Είναι ένα ακανθώδες ερώτημα που μπορεί να γίνει μεγαλύτερο πρόβλημα καθώς δημοσιεύεται περισσότερη deepfake μουσική σε πλατφόρμες ροής και δημιουργεί έσοδα σε πλατφόρμες μέσων κοινωνικής δικτύωσης.

Όπως όλοι γνωρίζουμε, είναι εντάξει να τραγουδήσετε μια διασκευή ενός διάσημου τραγουδιού και να το δημοσιεύσετε στο YouTube ή το Spotify, και σε αυτήν την περίπτωση, πράγματα όπως οι στίχοι, η δομή του τραγουδιού, η μελωδία, ο ρυθμός κ.λπ. αντιγράφονται. Αλλά οι φωνητικοί κλώνοι είναι αρκετά διαφορετικοί και η βαθιά ψεύτικη μουσική δεν είναι ακριβώς ένα υπάρχον τραγούδι, αλλά δημιουργεί ένα εντελώς νέο τραγούδι χρησιμοποιώντας τη φωνή κάποιου άλλου.

Με άλλα λόγια, οι κλώνοι φωνής δεν θα υπήρχαν αν δεν υπήρχαν εργαλεία τεχνητής νοημοσύνης και μη εξουσιοδοτημένα σύνολα δεδομένων. Οι καλλιτέχνες ξοδεύουν μια ζωή ακονίζοντας τη φωνή με την οποία γεννήθηκαν και δημιουργώντας έναν μοναδικό ήχο. Το να κλέψεις τη φωνή κάποιου και να κερδίσεις χρήματα από αυτήν μπορεί να είναι ένα βήμα πολύ μακριά.

4. Ένα είδος γκρι-περιοχής

Για να περιπλέκονται τα πράγματα, μερικοί άνθρωποι μπορεί να μην βλέπουν τη βαθιά ψεύτικη μουσική ως εντελώς κακή. Σε αντίθεση με τις deepfake εικόνες ή βίντεο με τα οποία μπορεί να γελάσετε για λίγο πριν περάσετε στο τηλέφωνό σας, η deepfake μουσική χτίζει ένα δικό της είδος.

Μερικοί άνθρωποι το συγκρίνουν με την ιδέα της γραφής φαντασίας, ενός διασκεδαστικού και δημιουργικού τρόπου να αποτίσουμε φόρο τιμής σε έναν καλλιτέχνη. Είναι μια πιο θετική άποψη που καθιστά δύσκολο τον αποκλεισμό της deepfake μουσικής ως απλώς ταμπού. Απλώς ρίξτε μια ματιά στην προσέγγιση της Holly Herndon στην κλωνοποίηση φωνής με τεχνητή νοημοσύνη στο παρακάτω βίντεο.

Αν και δεν συμφωνούν όλοι ότι αυτό το είδος μουσικής πρέπει να επιτρέπεται. Οπως και Γράφουν οι Financial Times, η μεγάλη δισκογραφική εταιρεία, η Universal Music Group, είχε στόχο να αφαιρέσει τραγούδια χαμηλότερης ποιότητας από πλατφόρμες ροής, συμπεριλαμβανομένων εκείνων που δημιουργήθηκαν από την τεχνητή νοημοσύνη. Τελικά, πλατφόρμες ροής όπως το Spotify, η Apple Music ή το Tidal θα πρέπει να αποφασίσουν εάν αυτό το είδος μουσικής επιτρέπεται στην πλατφόρμα τους.

Η Deepfake μουσική πυροδοτεί παρόμοιες συζητήσεις που ήδη συμβαίνουν στον κόσμο της τέχνης: θα πρέπει η τέχνη που δημιουργείται από AI να θεωρείται τέχνη? Μόνο τώρα, αμφισβητούμε τη μουσική AI.

5. Ηθικές ανησυχίες γύρω από τη φυλή και την ταυτότητα

Η εποχή της deepfake μουσικής έχει ξεκινήσει με πολλή μουσική που μιμείται τη μουσική ραπ. Με τις ιστορικές ρίζες του είδους να εντοπίζονται στη νεολαία των Αφροαμερικανών που μεγάλωσαν στο Μπρονξ της Νέας Υόρκης, στις αρχές της δεκαετίας του 1970, μερικοί άνθρωποι ανησυχούν για τη φυλή και την ταυτότητα στη μουσική AI.

Συγγραφέας Lauren Chanel, είναι ένα άτομο που θεωρεί ότι η deepfake μουσική είναι σοβαρό πρόβλημα. Όπως αναφέρεται σε ένα άρθρο των New York Times, εξηγούν:

«Είναι ένας άλλος τρόπος για τους ανθρώπους που δεν είναι μαύροι να φορέσουν τη στολή ενός μαύρου - να σηκώσουν τα χέρια τους ψηλά τον Kanye ή τον Drake και να τον κάνουν μαριονέτα - και αυτός είναι ανησυχητικό για μένα». «Αυτό είναι απλώς ένα άλλο παράδειγμα σε μια μακρά σειρά ανθρώπων που υποτιμούν αυτό που χρειάζεται για να δημιουργηθεί το είδος τέχνης που, ιστορικά, οι μαύροι φτιαχνω, κανω."

Αυτή δεν είναι η πρώτη φορά που η μουσική που δημιουργείται με εργαλεία τεχνητής νοημοσύνης δεν είναι ηθική. Οπως και αναφέρθηκε στο περιοδικό Rolling Stone, ένας εικονικός ράπερ avatar, ονόματι FN Meka, υπέγραψε σε μια δισκογραφική εταιρεία και στη συνέχεια αποχώρησε γρήγορα όταν ήταν online civil Η ομάδα δικαιωμάτων Industry Blackout έγραψε ότι το έργο διαιωνίζει "χονδροειδή στερεότυπα" για το Back Πολιτισμός.

Αν μη τι άλλο, η βαθιά ψεύτικη μουσική μας υπενθυμίζει ότι τα εργαλεία τεχνητής νοημοσύνης δεν μπορούν να διαχωριστούν από την ιστορία της δημιουργίας μουσικής, και η παράβλεψη αυτό προσθέτει τους κινδύνους των deepfakes AI.

6. Προκαλώντας βλάβη στους καλλιτέχνες

Ένα πράγμα που δεν πρέπει να αγνοηθεί είναι ο συναισθηματικός αντίκτυπος που θα μπορούσε να έχει ένα deepfake τραγούδι στον καλλιτέχνη, ειδικά όταν ένας κλώνος φωνής μπορούν να τραγουδήσουν για καταστάσεις που δεν συνέβησαν ποτέ, να εκφράσουν συναισθήματα που δεν είναι δικά τους και να προσποιηθούν ότι νοιάζονται για πράγματα που μπορεί να μην έχουν.

Στην περίπτωση του ψεύτικου τραγουδιού του Drake ft. The Weeknd, οι στίχοι περιλάμβαναν γραμμές για τη Selena Gomez που συνήθιζε να βγαίνει με το The Weeknd. Χρησιμοποιώντας ένα μείγμα πραγματικών γεγονότων και φτιαγμένων στίχων, ήταν μια παράξενη παραμόρφωση της πραγματικότητας που θα μπορούσε να είναι επιβλαβής για τον καλλιτέχνη που έζησε την πραγματική εμπειρία.

Ομοίως, παραγωγή στίχων που δημιουργούνται από AI "στο στυλ" κάποιου διάσημου που χρησιμοποιεί γεννήτριες κειμένου AI έχει οδηγήσει ορισμένους καλλιτέχνες σε απόγνωση για τη χρήση της τεχνολογίας AI. Όπως το λέει ο Nick Cave, "Αυτό που είναι το ChatGPT, σε αυτήν την περίπτωση, είναι η αναπαραγωγή ως παρωδία."

Η Deepfake μουσική είναι ικανή να βάλει λόγια στο στόμα του καλλιτέχνη που ποτέ δεν μίλησε, ή σε αυτήν την περίπτωση, δεν τα τραγούδησε. Σε προσωπικό επίπεδο, αυτό μπορεί να είναι επιζήμιο για τον καλλιτέχνη που έχει ελάχιστο έλεγχο όσον αφορά την αφαίρεση του περιεχομένου, χωρίς να παίρνει τη μάχη στα δικαστήρια.

Προετοιμασία για αλλαγές στη μουσική βιομηχανία

Χάρη στην αυξανόμενη πρόσβαση σε εργαλεία τεχνητής νοημοσύνης, η μουσική έχει εισέλθει στον κόσμο των deepfakes, ιδίως μέσω κλώνων φωνής. Το να πεις τη διαφορά μεταξύ μιας φωνής AI και μιας ανθρώπινης φωνής απλά ακούγοντας είναι εξαιρετικά δύσκολο, καθιστώντας εύκολο για ένα deepfake τραγούδι να φτάσει σε πλατφόρμες ροής πριν αφαιρεθεί.

Από τη μία πλευρά, οι θαυμαστές μπορεί να απολαμβάνουν deepfake μουσική και θα μπορούσε να εμφανιστεί ένα έγκυρο είδος που χρησιμοποιεί διάσημες φωνές για να δημιουργήσει νέα και ενδιαφέρουσα μουσική. Αλλά δεν συμφωνεί κάθε καλλιτέχνης με την κλωνοποίηση της φωνής του και δεν υπάρχουν νόμοι που εμποδίζουν τους ανθρώπους να δημιουργούν μη εξουσιοδοτημένα σύνολα δεδομένων.

Η απόκτηση συναίνεσης, η αποζημίωση των καλλιτεχνών και η εξέταση ηθικών ανησυχιών είναι μόνο μερικά προβλήματα που αντιμετωπίζουν οι καλλιτέχνες και η μουσική βιομηχανία. Με την ταχεία ανάπτυξη της τεχνολογίας AI, αξίζει να κάνετε μια παύση για να σκεφτείτε τα ζητήματα που έχουν δημιουργήσει.