Γιατί το ChatGPT-4 είναι τόσο αργό σε σύγκριση με το ChatGPT-3.5;

Με τη νεότερη έκδοση του ChatGPT, GPT-4, που κυκλοφόρησε τον Μάρτιο του 2023, πολλοί αναρωτιούνται τώρα γιατί είναι τόσο αργή σε σύγκριση με τον προκάτοχό του, GPT-3.5. Λοιπόν, ποιος είναι ο βασικός λόγος εδώ;

Γιατί ακριβώς το ChatGPT-4 είναι τόσο υποτονικό και θα πρέπει να τηρήσετε το GPT-3.5;

Τι είναι το ChatGPT-4;

Το ChatGPT-4 είναι το νεότερο μοντέλο Το chatbot του OpenAI, γνωστό γενικά ως ChatGPT. Το ChatGPT υποστηρίζεται από τεχνητή νοημοσύνη, επιτρέποντάς του να απαντά στις ερωτήσεις και τις προτροπές σας πολύ καλύτερα από τα προηγούμενα chatbot. Το ChatGPT χρησιμοποιεί ένα μεγάλο μοντέλο γλώσσας που τροφοδοτείται από ένα GPT (Generative Pre-trained Transformer) για να παρέχει πληροφορίες και περιεχόμενο στους χρήστες ενώ μπορεί επίσης να συνομιλεί.

Το ChatGPT έχει ένα ευρύ φάσμα δυνατοτήτων, καθιστώντας το χρήσιμο για εκατομμύρια. Για παράδειγμα, το ChatGPT μπορεί να γράφει ιστορίες, να διατυπώνει αστεία, να μεταφράζει κείμενο, να εκπαιδεύει τους χρήστες και πολλά άλλα. Ενώ το ChatGPT μπορεί επίσης να χρησιμοποιηθεί για περισσότερες παράνομες πράξεις, όπως π.χ

δημιουργία κακόβουλου λογισμικού, η ευελιξία του είναι κάπως επαναστατική.

Το μοντέλο GPT-4 του ChatGPT κυκλοφόρησε στις 14 Μαρτίου 2023. Αυτή η έκδοση του ChatGPT έχει σχεδιαστεί για να κατανοεί καλύτερα τη συναισθηματική γλώσσα μέσω κειμένου, ενώ παράλληλα κατανοεί καλύτερα διαφορετικές γλωσσικές διαλέκτους και την επεξεργασία εικόνας. Το GPT-4 μπορεί επίσης να κρατά μεγαλύτερες συνομιλίες και να ανταποκρίνεται αποτελεσματικά σε μεγαλύτερες προτροπές χρηστών.

Επιπλέον, οι παράμετροι του GPT-4 υπερβαίνουν κατά πολύ αυτές του GPT-3.5. Οι παράμετροι του ChatGPT καθορίζουν τον τρόπο με τον οποίο το AI επεξεργάζεται και ανταποκρίνεται σε πληροφορίες. Εν ολίγοις, οι παράμετροι καθορίζουν την ικανότητα που έχει το chatbot να αλληλεπιδρά με τους χρήστες. Ενώ το GPT-3.5 έχει 175 δισεκατομμύρια παραμέτρους, το GPT-4 έχει απίστευτα 100 τρισεκατομμύρια έως 170 τρισεκατομμύρια (φήμες — το OpenAI δεν έχει επιβεβαιώσει αυτόν τον αριθμό).

Ήταν το GPT-3.5 του OpenAI που χρησιμοποιήθηκε για να τροφοδοτήσει το ChatGPT, το οποίο είναι τώρα το πιο δημοφιλές chatbot AI στον κόσμο. Έτσι, το GPT-3.5 έχει κάνει ένα αναμφισβήτητο σημάδι στον τομέα της τεχνητής νοημοσύνης. Αλλά τα πράγματα πάντα προχωρούν στον κλάδο της τεχνολογίας, επομένως δεν αποτελεί έκπληξη το γεγονός ότι το GPT-3.5 έχει πλέον διάδοχο στο GPT-4.

Ωστόσο, το GPT-4 δεν είναι σε καμία περίπτωση τέλειο. Στην πραγματικότητα, οι μεγάλοι χρόνοι απόκρισης του GPT-4 προκαλούν μεγάλο σάλο. Ας εξετάσουμε λοιπόν αυτό το ζήτημα και γιατί μπορεί να συμβαίνει.

Το ChatGPT-4 είναι αργό

Πολλοί παρατήρησαν κατά την κυκλοφορία του GPT-4 ότι το νέο chatbot του OpenAI ήταν απίστευτα αργό. Αυτό άφησε πολλούς χρήστες απογοητευμένους, καθώς το GPT-4 προοριζόταν να είναι ένα βήμα παραπάνω από το GPT-3.5 και όχι προς τα πίσω. Ως αποτέλεσμα, οι χρήστες του GPT-4 επισκέπτονται διαδικτυακές πλατφόρμες, όπως το Reddit και το κοινοτικό συμβούλιο του OpenAI, για να συζητήσουν το θέμα.

Επί Το Φόρουμ Κοινότητας του OpenAI, αρκετοί χρήστες έχουν παρουσιάσει τις απογοητεύσεις τους για την καθυστέρηση GPT-4. Ένας χρήστης δήλωσε ότι το GPT-4 ήταν "εξαιρετικά αργό" στο τέλος του και ότι ακόμη και μικρά αιτήματα που έγιναν στο chatbot είχαν ως αποτέλεσμα ασυνήθιστα μεγάλες καθυστερήσεις άνω των 30 δευτερολέπτων.

Άλλοι χρήστες έσπευσαν να μοιραστούν τις εμπειρίες τους με το GPT-4, με έναν να σχολιάζει κάτω από την ανάρτηση ότι «η ίδια κλήση με τα ίδια δεδομένα μπορεί να διαρκέσει έως και 4 φορές πιο αργά από το 3,5 turbo».

Σε ένα άλλο Ανάρτηση OpenAI Community Forum, ένας χρήστης σχολίασε ότι οι προτροπές του συναντώνται μερικές φορές με ένα "σφάλμα στη ροή του σώματοςμήνυμα, χωρίς να υπάρχει απάντηση. Στο ίδιο νήμα, ένα άλλο άτομο δήλωσε ότι δεν μπορούσε να πάρει το GPT-4 για να "ανταποκριθεί με επιτυχία με ένα πλήρες σενάριο." Ένας άλλος χρήστης σχολίασε ότι συνέχισαν να αντιμετωπίζουν σφάλματα δικτύου ενώ προσπαθούσαν να το χρησιμοποιήσουν GPT-4.

Με καθυστερήσεις και αποτυχημένες ή αποτυχημένες απαντήσεις, φαίνεται ότι το GPT-4 είναι γεμάτο με ζητήματα που καθυστερούν γρήγορα τους χρήστες.

Γιατί, λοιπόν, ακριβώς συμβαίνει αυτό; Υπάρχει κάτι λάθος με το GPT-4;

Γιατί το GPT-4 είναι αργό σε σύγκριση με το GPT-3.5;

Στην ανάρτηση του OpenAI Community Forum που αναφέρεται παραπάνω, ένας χρήστης απάντησε υποδηλώνοντας ότι η καθυστέρηση οφειλόταν σε "τρέχον πρόβλημα με ολόκληρη την υποδομή υπερφόρτωση», προσθέτοντας ότι υπάρχει μια πρόκληση που τίθεται στην «αντιμετώπιση της επεκτασιμότητας σε τόσο σύντομο χρονικό διάστημα με αυτήν τη δημοτικότητα και τον αριθμό των χρηστών τόσο της συνομιλίας όσο και API."

Σε ένα Ανάρτηση στο Reddit που ανέβηκε στο subreddit r/singularity, ένας χρήστης παρουσίασε μερικούς πιθανούς λόγους για τη βραδύτητα του GPT-4, ξεκινώντας από ένα μεγαλύτερο μέγεθος περιβάλλοντος. Στο οικοσύστημα GPT, το μέγεθος περιβάλλοντος αναφέρεται στο πόσες πληροφορίες μπορεί να επεξεργαστεί μια δεδομένη έκδοση chatbot και στη συνέχεια να παράγει πληροφορίες. Ενώ το μέγεθος περιβάλλοντος του GPT-3.5 ήταν 4K, το GPT-4 είναι διπλάσιο. Έτσι, το μέγεθος περιβάλλοντος 8K μπορεί να έχει αντίκτυπο στις συνολικές ταχύτητες του GPT-4.

Ο συγγραφέας του Reddit πρότεινε επίσης ότι η βελτιωμένη δυνατότητα διεύθυνσης και ο έλεγχος του GPT-4 θα μπορούσε να παίξει ρόλο στους χρόνους επεξεργασίας του chatbot. Εδώ, ο συγγραφέας δήλωσε ότι η μεγαλύτερη ικανότητα διεύθυνσης και έλεγχος των παραισθήσεων του GPT-4 και ακατάλληλη Η γλώσσα μπορεί να είναι ο ένοχος, καθώς αυτές οι δυνατότητες προσθέτουν επιπλέον βήματα στη μέθοδο επεξεργασίας του GPT-4 πληροφορίες.

Επιπλέον, προτάθηκε ότι η ικανότητα του GPT-4 να επεξεργάζεται εικόνες θα μπορούσε να επιβραδύνει τα πράγματα. Αυτή η χρήσιμη λειτουργία είναι αγαπημένη από πολλούς, αλλά θα μπορούσε να συνοδεύεται από μια σύλληψη. Δεδομένου ότι φημολογείται ότι το GPT-4 χρειάζεται 10-20 δευτερόλεπτα για να επεξεργαστεί μια παρεχόμενη εικόνα, υπάρχει πιθανότητα αυτό το στοιχείο παρατείνει τους χρόνους απόκρισης (αν και αυτό δεν εξηγεί τις καθυστερήσεις που αντιμετωπίζουν οι χρήστες που παρέχουν μόνο προτροπές κειμένου).

Άλλοι χρήστες έχουν προτείνει ότι το νέο ChatGPT-4 παίζει μεγάλο ρόλο σε αυτές τις καθυστερήσεις. Με άλλα λόγια, ορισμένοι πιστεύουν ότι το νεότερο chatbot του OpenAI πρέπει να βιώσει κάποιους αυξανόμενους πόνους προτού μπορέσουν να εξαλειφθούν όλα τα ελαττώματα.

Αλλά ο μεγαλύτερος λόγος που το GPT-4 είναι αργό είναι ο αριθμός των παραμέτρων που μπορεί να καλέσει το GPT-4 έναντι του GPT-3.5. ο Η εντυπωσιακή αύξηση των παραμέτρων σημαίνει απλώς ότι το νεότερο μοντέλο GPT χρειάζεται περισσότερο χρόνο για να επεξεργαστεί πληροφορίες και να ανταποκριθεί με ακρίβεια. Λαμβάνετε καλύτερες απαντήσεις με αυξημένη πολυπλοκότητα, αλλά το να φτάσετε εκεί διαρκεί λίγο περισσότερο.

Πρέπει να επιλέξετε το GPT-3.5 έναντι του GPT-4;

Λοιπόν, έχοντας υπόψη αυτά τα ζητήματα, θα πρέπει να χρησιμοποιήσετε GPT-3.5 ή GPT-4?

Τη στιγμή της γραφής, φαίνεται ότι το GPT-3.5 είναι η πιο γρήγορη επιλογή έναντι του GPT-4. Τόσοι πολλοί χρήστες αντιμετώπισαν καθυστερήσεις που είναι πιθανό το ζήτημα του χρόνου να υπάρχει σε όλους τους τομείς, όχι μόνο σε μερικά άτομα. Έτσι, εάν το ChatGPT-3.5 ανταποκρίνεται επί του παρόντος σε όλες τις προσδοκίες σας και δεν θέλετε να περιμένετε μια απάντηση σε αντάλλαγμα για πρόσθετες λειτουργίες, ίσως είναι συνετό να μείνετε σε αυτήν την έκδοση προς το παρόν.

Ωστόσο, θα πρέπει να σημειώσετε ότι το GPT-4 δεν είναι μόνο GPT-3.5 αλλά πιο αργό. Αυτή η έκδοση του chatbot του OpenAI έχει πολλά πλεονεκτήματα σε σχέση με τον προκάτοχό του. Αν ψάχνετε για ένα πιο προηγμένο chatbot AI και δεν σας πειράζει να περιμένετε περισσότερο για απαντήσεις, ίσως αξίζει να κάνετε μετάβαση από το GPT-3.5 στο GPT-4.

Με την πάροδο του χρόνου, οι καθυστερήσεις του GPT-4 μπορεί να μειωθούν ή να επιλυθούν πλήρως, επομένως η υπομονή θα μπορούσε να είναι μια αρετή εδώ. Είτε προσπαθήσετε να μεταβείτε στο GPT-4 τώρα είτε περιμένετε λίγο ακόμα για να δείτε πώς θα εξελιχθούν τα πράγματα με αυτήν την έκδοση, μπορείτε ακόμα να αξιοποιήσετε πολλά από το υπέροχο μικρό chatbot του OpenAI.

Το GPT-4 είναι πιο προηγμένο αλλά έρχεται με καθυστέρηση

Ενώ το GPT-4 έχει πολλές προηγμένες δυνατότητες σε σχέση με το GPT-3.5, οι σημαντικές καθυστερήσεις και τα σφάλματα απόκρισής του το έχουν καταστήσει άχρηστο σε ορισμένους. Αυτά τα ζητήματα μπορεί να επιλυθούν στο εγγύς μέλλον, αλλά προς το παρόν, το GPT-4 έχει σίγουρα κάποια εμπόδια να ξεπεράσει πριν γίνει αποδεκτό σε ευρύτερη κλίμακα.