Τι είναι το όριο διακριτικού ChatGPT και μπορείτε να το υπερβείτε;

Το ChatGPT έχει καταιγίσει τον τεχνολογικό κόσμο και δεν λείπουν οι εξελίξεις και οι ενημερώσεις. Όμως, παρά τη χρήση προηγμένης τεχνολογίας, υπάρχουν αρκετοί περιοριστικοί παράγοντες στην τρέχουσα έκδοση.

Ένας τέτοιος παράγοντας είναι το σύστημα διακριτικών, το οποίο συνεχίζει να σπάει τον κύκλο εξέλιξης, γονατίζοντας τη χρησιμότητα της εφαρμογής. Εάν χρησιμοποιείτε το ChatGPT, ίσως θέλετε να μάθετε για τα διακριτικά του ChatGPT και τι πρέπει να κάνετε όταν τελειώσουν τα διακριτικά.

Ας κάνουμε ένα βήμα πίσω και ας σας δώσουμε μια εικόνα για όλα όσα πρέπει να γνωρίζετε για τους υποκείμενους μηχανισμούς λειτουργίας της εφαρμογής.

Τι είναι το διακριτικό ChatGPT;

Αν περάσετε από την πρόσοψη της εφαρμογής, το μόνο που βλέπετε είναι μια γλώσσα υπολογιστή που υπακούει στις εντολές σας και σας δίνει τις απαντήσεις που αναζητάτε. Ωστόσο, το backend είναι απλώς πολύς κώδικας, μαθαίνει κάθε λεπτό και ενημερώνεται για τις ερωτήσεις που απαντά.

Το ChatGPT μετατρέπει κάθε λέξη σε ένα ευανάγνωστο διακριτικό κάθε φορά που κάνετε μια ερώτηση. Για να το αναλύσουμε περαιτέρω, τα διακριτικά είναι τμήματα κειμένου και κάθε γλώσσα προγραμματισμού χρησιμοποιεί ένα διαφορετικό σύνολο τιμών διακριτικών για να κατανοήσει τις απαιτήσεις.

Δεδομένου ότι οι υπολογιστές δεν κατανοούν άμεσα τις τιμές κειμένου, τις αναλύουν σε έναν συνδυασμό αριθμών, που συχνά ονομάζονται ενσωματώσεις. Μπορείτε ακόμη και να εξετάσετε ενσωματώσεις όπως Λίστες Python, που μοιάζουν με μια λίστα σχετικών αριθμών, όπως [1.1,2.1,3.1,4.1…n].

Μόλις το ChatGPT λάβει την αρχική είσοδο, προσπαθεί να προβλέψει την επόμενη δυνατή είσοδο με βάση τις προηγούμενες πληροφορίες. Επιλέγει ολόκληρη τη λίστα με τα προηγούμενα διακριτικά και, χρησιμοποιώντας τη σύνθεση κωδικοποίησης, προσπαθεί να προλάβει την επακόλουθη εισαγωγή από τον χρήστη. Χρησιμοποιεί και προβλέπει ένα διακριτικό τη φορά για να διευκολύνει τη γλώσσα να κατανοήσει τη χρήση.

Για να βελτιώσει τις προβλέψεις και να βελτιώσει την ακρίβεια, συλλέγει ολόκληρη τη λίστα των ενσωματώσεων και τη περνά μέσα από επίπεδα μετασχηματιστή για να δημιουργήσει συσχετίσεις μεταξύ λέξεων. Για παράδειγμα, όταν κάνετε μια ερώτηση όπως "Ποιος είναι ο Τόμας Έντισον;", το ChatGPT επιλέγει τις πιο πολύτιμες λέξεις στη λίστα: ΠΟΥ και Έντισον.

Τα στρώματα μετασχηματιστή παίζουν το ρόλο τους σε όλη τη διαδικασία. Αυτά τα επίπεδα είναι μια μορφή αρχιτεκτονικής νευρωνικών δικτύων που έχει εκπαιδευτεί για να συλλέγει τις πιο σχετικές λέξεις-κλειδιά από μια σειρά λέξεων. Ωστόσο, η διαδικασία εκπαίδευσης δεν είναι τόσο απλή όσο ακούγεται, γιατί χρειάζεται πολύς χρόνος για την εκπαίδευση των στρωμάτων μετασχηματιστή σε gigabyte δεδομένων.

Παρόλο που το ChatGPT προβλέπει μόνο ένα διακριτικό τη φορά, η τεχνολογία αυτόματης παλινδρόμησής του είναι προγραμματισμένη να προβλέπει και να ανατροφοδοτεί το κύριο μοντέλο για να απελευθερώσει την έξοδο. Το μοντέλο έχει ρυθμιστεί ώστε να εκτελείται μόνο μία φορά για κάθε διακριτικό, επομένως το αποτέλεσμα εκτυπώνεται μία λέξη τη φορά. Η έξοδος σταματά αυτόματα όταν η εφαρμογή συναντήσει μια εντολή διακοπής.

Για παράδειγμα, αν κοιτάξετε την αριθμομηχανή διακριτικών στον ιστότοπο ChatGPT, μπορείτε να υπολογίσετε τη βάση χρήσης του διακριτικού σας για τις ερωτήσεις σας.

Ας εισαγάγουμε ένα δείγμα κειμένου, όπως:

Πώς εξηγώ τη χρήση των διακριτικών σε ChatGPT;

Σύμφωνα με την αριθμομηχανή, υπάρχουν 46 χαρακτήρες σε αυτή τη συμβολοσειρά, η οποία θα καταναλώσει 13 μάρκες. Αν το αναλύσετε σε αναγνωριστικά Token, μοιάζει κάπως έτσι:

[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]

Σύμφωνα με το Υπολογιστής διακριτικών OpenAI:

Ένας χρήσιμος εμπειρικός κανόνας είναι ότι ένα διακριτικό αντιστοιχεί γενικά σε ~4 χαρακτήρες κειμένου για κοινό αγγλικό κείμενο. Αυτό μεταφράζεται σε περίπου ¾ της λέξης (άρα 100 μάρκες ~ = 75 λέξεις).

Δωρεάν vs. Διακριτικά επί πληρωμή

Για να σας δώσει μια γεύση από το τι συμβαίνει στην εφαρμογή ChatGPT, το OpenAI σας προσφέρει μια δωρεάν περιορισμένη συνδρομή με διακριτικό. Εάν θέλετε να πειραματιστείτε με το ChatGPT API, χρησιμοποιήστε τη δωρεάν πίστωση 5 $, η οποία ισχύει για τρεις μήνες. Μόλις εξαντληθεί το όριο (ή λήξει η δοκιμαστική περίοδος), μπορείτε να πληρώνετε όσο θέλετε, γεγονός που αυξάνει το μέγιστο όριο στα 120 $.

ChatGPT Plus: Αξίζει η συνδρομή επί πληρωμή;

Για να το ανεβείτε, μπορείτε ακόμη και να εγγραφείτε στο Προσφορά ChatGPT Plus, το οποίο σας κάνει πίσω κατά 20 $ το μήνα. Δεδομένης της εκτεταμένης χρήσης και της δημοτικότητας ολόκληρου του μοντέλου AI, ακολουθούν τα κορυφαία χαρακτηριστικά του μοντέλου συνδρομής επί πληρωμή:

• Πρόσβαση στο ChatGPT, ακόμη και όταν ο ιστότοπος αντιμετωπίζει διακοπές λειτουργίας λόγω εισροής χρηστών
• Βελτιωμένα ποσοστά απόκρισης
• Πρόσβαση από πρώτο χέρι σε νέες δυνατότητες και εκδόσεις

Εάν πιστεύετε ότι αυτές οι λειτουργίες αξίζουν εντελώς και ανεβείτε, μπορείτε να εγγραφείτε για την επί πληρωμή συνδρομή και να επωφεληθείτε από αυτές αμέσως.

Δομή τιμολόγησης διακριτικού ChatGPT

Υπάρχουν μερικά διαφορετικά μοντέλα εφαρμογών διαθέσιμα, τα οποία μπορείτε να επιλέξετε με βάση τις απαιτήσεις σας:

Το Ada είναι το πιο γρήγορο, ενώ το DaVinci είναι το πιο ισχυρό μοντέλο από αυτήν τη λίστα μοντέλων. Η προτροπή είναι η ερώτηση, ενώ η ολοκλήρωση ασχολείται με τις απαντήσεις.

Μέγιστα Όρια Token

Κάθε μοντέλο σάς επιτρέπει να ορίσετε τον μέγιστο αριθμό διακριτικών σε κάθε ερώτημα. Αυτή η μέθοδος ελέγχει τον μέγιστο αριθμό διακριτικών που δημιουργεί η εφαρμογή σε μία κλήση, περιορίζοντας την έξοδο. Η δυνατότητα max_token είναι αρκετά χρήσιμη, ειδικά όταν θέλετε να ελέγχετε τη διάρκεια της εξόδου σας, αποφεύγοντας την υπερβολική χρήση του διακριτικού και των πιστώσεων. Το προεπιλεγμένο μήκος έχει καθοριστεί σε 2048 μάρκες, ενώ το μέγιστο μπορεί να οριστεί σε 4096 μάρκες.

Ο περιορισμός της χρήσης του διακριτικού μπορεί να οδηγήσει σε σύντομες απαντήσεις, οι οποίες ενδέχεται να περιορίσουν την έξοδο και να βλάψουν την εμπειρία χρήσης σας.

Το ChatGPT3 έχει ανώτατο όριο 4096. Ωστόσο, με την εισαγωγή του ChatGPT4, τα όρια διακριτικών αυξάνονται, ως εξής:

Εάν η έξοδος σας είναι περικομμένη, πρέπει να αυξήσετε το καθορισμένο μέγιστο όριο από τον πίνακα εργαλείων σας. Θυμηθείτε ότι το άθροισμα των κουπονιών προτροπής και μέγιστου κουπονιού θα πρέπει πάντα να είναι μικρότερο από το μέγιστο όριο διακριτικών του μοντέλου.

Για παράδειγμα, στο μοντέλο ChatGPT, το prompt_tokens + max_tokens <= 4096 μάρκες.

Μάθετε να ελέγχετε τα μηνύματα προτροπής ChatGPT για καλύτερα αποτελέσματα

Ανεξάρτητα από το πώς χρησιμοποιείτε την εφαρμογή που βασίζεται σε AI, το πιθανότερο είναι ότι θα πρέπει να επινοήσετε τρόπους για να παίξετε έξυπνα με τις ερωτήσεις και τις φράσεις σας. Ανάλογα με τα μοτίβα χρήσης σας, πιθανότατα θα χρησιμοποιείτε το ChatGPT εκτενώς για κάθε εργασία.

Για να έχετε τα καλύτερα αποτελέσματα, πρέπει να μάθετε πώς να εργάζεστε με τη μεθοδολογία του token και να βελτιώνετε τις δεξιότητές σας για να διασφαλίσετε ότι τα όρια χρήσης σας παραμένουν ανέπαφα, δίνοντάς σας τις καλύτερες δυνατές απαντήσεις.