Τι είναι το πρόβλημα μεγιστοποίησης συνδετήρων και πώς σχετίζεται με την τεχνητή νοημοσύνη;

Η τεχνητή νοημοσύνη αποτελεί θέμα συζήτησης από την έναρξή της. Ενώ οι φόβοι για μια τεχνητή νοημοσύνη που μοιάζει με το Skynet να ζωντανέψει και να καταλάβει την ανθρωπότητα είναι τουλάχιστον παράλογοι, ορισμένα πειράματα έχουν αποφέρει σχετικά αποτελέσματα.

Ένα τέτοιο πείραμα είναι το πρόβλημα μεγιστοποίησης συνδετήρων, ένα πείραμα σκέψης που δείχνει ότι μια εξαιρετικά έξυπνη τεχνητή νοημοσύνη, ακόμα κι αν σχεδιαστεί εντελώς χωρίς κακία, θα μπορούσε τελικά να καταστρέψει την ανθρωπότητα.

Επεξήγηση του προβλήματος μεγιστοποίησης συνδετήρων

Αυτό το πείραμα σκέψης ότι ακόμη και μια εντελώς ακίνδυνη τεχνητή νοημοσύνη θα μπορούσε τελικά να εξαφανίσει την ανθρωπότητα ονομάστηκε αρχικά Paperclip Maximizer απλώς και μόνο επειδή οι συνδετήρες επιλέχθηκαν για να δείξουν τι θα μπορούσε να κάνει η τεχνητή νοημοσύνη καθώς έχει μικρό προφανή κίνδυνο και δεν θα προκαλέσει συναισθηματική δυσφορία σε σύγκριση με άλλους τομείς στους οποίους ισχύει αυτό το πρόβλημα, όπως η θεραπεία του καρκίνου ή η νίκη του πολέμου.

Το πρώτο πείραμα εμφανίστηκε στην εργασία του Σουηδού φιλόσοφου Nick Bostrom το 2003, Ηθικά ζητήματα στην προηγμένη τεχνητή νοημοσύνη, το οποίο περιλάμβανε τον μεγιστοποιητή συνδετήρων για να δείξει τους υπαρξιακούς κινδύνους που θα μπορούσε να χρησιμοποιήσει μια αρκετά προηγμένη τεχνητή νοημοσύνη.

Το πρόβλημα παρουσίαζε μια τεχνητή νοημοσύνη του οποίου ο μοναδικός στόχος ήταν να φτιάξει όσο το δυνατόν περισσότερους συνδετήρες. Μια αρκετά έξυπνη τεχνητή νοημοσύνη θα συνειδητοποιούσε αργά ή γρήγορα ότι οι άνθρωποι αποτελούν πρόκληση για τον στόχο του σε τρεις διαφορετικούς τομείς.

• Οι άνθρωποι θα μπορούσαν να απενεργοποιήσουν το AI.
• Οι άνθρωποι μπορούσαν να αλλάξουν τους στόχους τους.
• Οι άνθρωποι αποτελούνται από άτομα, τα οποία μπορούν να μετατραπούν σε συνδετήρες.

Και στα τρία παραδείγματα, θα υπήρχαν λιγότεροι συνδετήρες στο σύμπαν. Επομένως, μια αρκετά έξυπνη τεχνητή νοημοσύνη της οποίας ο μοναδικός στόχος είναι να φτιάξει όσο το δυνατόν περισσότερους συνδετήρες θα έπαιρνε όλη την ύλη και την ενέργεια που ήταν εφικτό και θα εμπόδιζε τον εαυτό του να σβήσει ή άλλαξε. Όπως μπορείτε πιθανώς να μαντέψετε, αυτό είναι πολύ πιο επικίνδυνο από εγκληματίες που χρησιμοποιούν το ChatGPT για να χακάρουν τον τραπεζικό λογαριασμό ή τον υπολογιστή σας.

Το AI δεν είναι εχθρικό προς τους ανθρώπους. είναι απλά αδιάφορο. Επομένως, μια τεχνητή νοημοσύνη που ενδιαφέρεται μόνο για τη μεγιστοποίηση του αριθμού των συνδετήρων θα εξαφάνιζε την ανθρωπότητα και θα τους μετατρέψει ουσιαστικά σε συνδετήρες για να πετύχει τον στόχο της.

Πώς ισχύει το πρόβλημα μεγιστοποίησης συνδετήρων για την τεχνητή νοημοσύνη;

Αναφορές έρευνας και πειράματος για το πρόβλημα μεγιστοποίησης συνδετήρων αναφέρουν ένα υποθετικό εξαιρετικά ισχυρό εργαλείο βελτιστοποίησης ή έναν εξαιρετικά ευφυή πράκτορα ως ενεργό μέρος εδώ. Ωστόσο, το πρόβλημα ισχύει για την τεχνητή νοημοσύνη όσο ταιριάζει απόλυτα στον ρόλο.

Η ιδέα ενός μεγιστοποιητή συνδετήρων δημιουργήθηκε για να δείξει ορισμένους από τους κινδύνους της προηγμένης τεχνητής νοημοσύνης, τελικά. Συνολικά, παρουσιάζει δύο προβλήματα.

• Διατριβή ορθογωνικότητας: Η θέση της ορθογωνικότητας είναι η άποψη ότι η νοημοσύνη και το κίνητρο δεν αλληλοεξαρτώνται μεταξύ τους. Αυτό σημαίνει ότι είναι δυνατό για μια τεχνητή νοημοσύνη με υψηλό επίπεδο γενικής νοημοσύνης να μην καταλήξει στα ίδια ηθικά συμπεράσματα με τους ανθρώπους.
• Ενεργειακή σύγκλιση: Η οργανική σύγκλιση ορίζεται ως η τάση για τα περισσότερα επαρκώς έξυπνα όντα (και τα δύο ανθρώπινα και μη) να επιδιώξουν παρόμοιους επιμέρους στόχους ακόμα κι αν ο τελικός τους στόχος μπορεί να είναι εντελώς διαφορετικός. Στην περίπτωση του προβλήματος μεγιστοποίησης συνδετήρων, αυτό σημαίνει ότι το AI θα καταλήξει να το αναλάβει φυσικού πόρου και αφανίζοντας την ανθρωπότητα μόνο και μόνο για να πετύχει τον στόχο της να δημιουργεί όλο και περισσότερα συνδετήρες.

Το μεγαλύτερο ζήτημα που επισημαίνεται από τον μεγιστοποιητή συνδετήρων είναι η οργανική σύγκλιση. Μπορεί επίσης να τονιστεί χρησιμοποιώντας την υπόθεση Riemann, οπότε μια τεχνητή νοημοσύνη που έχει σχεδιαστεί για να λύσει την υπόθεση μπορεί κάλλιστα να αποφασίσει να αναλάβει όλα τα τη μάζα της γης και τη μετατροπή της σε computronium (τους πιο αποτελεσματικούς επεξεργαστές υπολογιστών) για την κατασκευή υπερυπολογιστών για την επίλυση του προβλήματος και την επίτευξη του στόχος.

Ο ίδιος ο Bostrom τόνισε ότι δεν πιστεύει ότι το πρόβλημα μεγιστοποίησης συνδετήρων θα είναι ποτέ πραγματικό ζήτημα, αλλά πρόθεσή του ήταν να απεικονίζουν τους κινδύνους της δημιουργίας υπερέξυπνων μηχανών χωρίς να γνωρίζουν πώς να τις ελέγχουν ή να τις προγραμματίζουν ώστε να μην είναι υπαρξιακά επικίνδυνες για τον άνθρωπο όντα. Τα σύγχρονα συστήματα AI όπως το ChatGPT έχουν επίσης προβλήματα, αλλά απέχουν πολύ από το ότι τα υπερέξυπνα συστήματα AI για τα οποία γίνεται λόγος στον συνδετήρα μεγιστοποιούν το πρόβλημα, επομένως δεν υπάρχει λόγος πανικού ακόμα.

Τα προηγμένα συστήματα AI χρειάζονται ανώτερο έλεγχο

Το πρόβλημα μεγιστοποίησης συνδετήρων καταλήγει πάντα στο ίδιο συμπέρασμα και υπογραμμίζει τα προβλήματα διαχείρισης ενός εξαιρετικά ευφυούς και ισχυρού συστήματος που στερείται ανθρώπινων αξιών.

Αν και η χρήση συνδετήρων μπορεί να είναι η πιο δημοφιλής μέθοδος για την απεικόνιση του προβλήματος, ισχύει για οποιονδήποτε αριθμό εργασιών θα μπορούσε να δώσει σε μια τεχνητή νοημοσύνη είτε αυτό εξαλείφει τον καρκίνο, κερδίζει πολέμους, φυτεύει περισσότερα δέντρα ή οποιοδήποτε άλλο έργο, ανεξάρτητα από το πόσο φαινομενικά είναι χαζος.