Έχουν όριο χαρακτήρων ή λέξεων οι απαντήσεις ChatGPT;

Το ChatGPT είναι μεγάλη είδηση. Αλλά πόσο μεγάλες είναι οι απαντήσεις που λαμβάνετε από αυτό το chatbot γενικής χρήσης;

Η καθιέρωση αυτού δεν είναι τόσο απλή όσο νομίζετε. Για αρχή, κάντε αυτήν ακριβώς την ερώτηση στο ChatGPT και θα είστε βέβαιοι ότι δεν υπάρχουν καθορισμένα όρια στη διάρκεια των απαντήσεών του.

Ωστόσο, όπως αποκαλύπτουμε εδώ, δεν είναι τόσο απλό. Υπάρχουν κρυφά όρια στη διάρκεια μιας απόκρισης ChatGPT, αλλά υπάρχουν επίσης μερικές έξυπνες και απλές λύσεις που θα σας βοηθήσουν να λάβετε μεγαλύτερες απαντήσεις.

Πώς το ChatGPT προσδιορίζει τη διάρκεια μιας απόκρισης;

Ο τρόπος λειτουργίας του ChatGPT είναι περίπλοκος, και το μήκος απόκρισης ποικίλλει ανάλογα με το τι ζητείται και το επίπεδο λεπτομέρειας που ζητείται. Όπως δείχνει το επόμενο στιγμιότυπο οθόνης, το ChatGPT ισχυρίζεται ότι δεν υπάρχουν αυστηρά όρια.

Δεν είναι αυτό που βρήκαμε. Το παρακάτω παράδειγμα δείχνει ότι το ChatGPT σταματά ξαφνικά μια απάντηση στη μέση πρόταση. Του ζητήσαμε να συντάξει μια χιλιοειπωμένη έκθεση για τα οφέλη μιας κυκλικής οικονομίας. Το ChatGPT σταμάτησε να ανταποκρίνεται όταν έφτασε στις 677 λέξεις.

Επαναλάβαμε το τεστ πολλές φορές με διαφορετικές ερωτήσεις και κάθε φορά σταματούσε στη μέση της πρότασης. περιστασιακά, αυτό συνοδευόταν από σφάλμα δικτύου. Αυτό είναι ένα κοινό λάθος, και υπάρχουν διάφοροι τρόποι για τη διόρθωση σφαλμάτων δικτύου στο ChatGPT.

Μέρος της απάντησης για το γιατί συμβαίνει αυτό βρίσκεται σε κάτι που ονομάζεται σύστημα διακριτικών.

Τι χρησιμοποιεί το σύστημα Token ChatGPT;

Αντί για μια απλή καταμέτρηση λέξεων για τον προσδιορισμό του μήκους τόσο των ερωτημάτων όσο και των απαντήσεων, το ChatGPT χρησιμοποιεί ένα σύστημα διακριτικών. Αυτό αναλύει κάθε είσοδο και έξοδο σε μια σειρά από διακριτικά που χρησιμοποιούνται για την ταξινόμηση του μεγέθους αιτήματος και απόκρισης.

Αν και ο αριθμός των λέξεων παίζει ρόλο σε αυτό, δεν είναι όλη η ιστορία. Για παράδειγμα, καταχωρήθηκε το παρακάτω παράδειγμα Το εργαλείο Tokenizer του OpenAi.

Η πρόταση και η απάντηση ήταν "Tokenized" σε τιμή εννέα μάρκες. Αυτό είναι σύμφωνο με τον «εμπειρικό κανόνα» του OpenAI ότι ένα διακριτικό ισοδυναμεί με τρία τέταρτα της λέξης.

Το μοντέλο GPT 3.5 περιορίζει τις ερωτήσεις και τα δεδομένα των χρηστών σε 4.097 διακριτικά. Σύμφωνα με τον υπολογισμό του OpenAI, αυτό ισοδυναμεί με περίπου 3.000 λέξεις. Ωστόσο, είναι σημαντικό να σημειωθεί ότι αυτό το όριο ισχύει τόσο για την απάντηση όσο και για την ερώτηση.

Αν και θεωρητικά όλα αυτά είναι ωραία και καλά, τα αποτελέσματα που συναντήσαμε ποτέ δεν πλησίασαν αυτά τα όρια. Η ελλιπής απάντηση που έδωσε το ChatGPT στην προηγούμενη δοκιμή μας ζύγιζε μόνο 798 μάρκες.

Γιατί είναι περιορισμένες οι απαντήσεις του ChatGPT;

Αυτή η νέα τεχνολογία έγινε γρήγορα η πιο πολυσυζητημένη τεχνολογική εξέλιξη αυτόν τον αιώνα. Αυτό έχει δημιουργήσει τεράστια ζήτηση για ChatGPT. Τελικά, αυτή η απαίτηση έχει ουσιαστικά περιορίσει τις απαντήσεις πολύ κάτω από τα αναφερόμενα όρια.

Αν και δεν υπάρχει επίσημη επιβεβαίωση αυτού, φαίνεται να υπάρχει ένα de facto όριο περίπου πεντακόσιων λέξεων ή 4.000 χαρακτήρων.

Για να τονίσουμε, αυτός δεν είναι ένας σταθερός κανόνας - δημιουργήσαμε αποτελέσματα που ξεπέρασαν αυτό κατά σχεδόν διακόσιες λέξεις. Ωστόσο, αυτό μπορεί να θεωρηθεί ως ένα ασφαλές ανώτατο όριο για την επίτευξη ολοκληρωμένων απαντήσεων.

Πώς να λάβετε μεγαλύτερες απαντήσεις από το ChatGPT

Μόλις καταλάβετε ότι υπάρχει ένα "κρυφό όριο" στις απαντήσεις του ChatGPT, υπάρχουν μερικοί απλοί τρόποι που θα σας βοηθήσουν να λάβετε πιο ολοκληρωμένες απαντήσεις.

1. Ζητήστε από το ChatGPT να συνεχίσει: Εάν το ChatGPT σταματήσει εν μέρει μέσω μιας απάντησης, τότε μια επιλογή είναι απλώς να του ζητήσετε να συνεχίσει. Στο παρακάτω παράδειγμα, πληκτρολογήσαμε "Συνέχεια" και πρόσθεσε άλλες διακόσιες λέξεις στην απάντηση.
2. Χωρίστε την ερώτησή σας σε μικρότερες ενότητες: Για παράδειγμα, του ζητήσαμε αρκετές φορές να γράψει ένα δοκίμιο σχετικά με τον αντίκτυπο της τεχνητής νοημοσύνης στην κοινωνία. Κάθε φορά σταματούσε η απάντηση. Μια επιλογή εδώ είναι να του ζητήσετε να σημαδέψει ορισμένα θέματα για ένα δοκίμιο σχετικά με την τεχνητή νοημοσύνη και, στη συνέχεια, να χρησιμοποιήσετε τα παρεχόμενα σημεία κουκκίδων ως μεμονωμένα μηνύματα.
3. Χρησιμοποιήστε την επιλογή Regenerate: Αν και αυτό μπορεί να προκαλέσει το ίδιο σφάλμα, χωρίς να χάσετε τίποτα, αξίζει πάντα μια βολή.
4. Καθορίστε ένα ανώτατο όριο για τον αριθμό των λέξεων στην προτροπή σας: Η παρακάτω εικόνα δείχνει πώς μπορεί να χρησιμοποιηθεί για τον χειρισμό του μέγιστου αριθμού λέξεων σε μια απάντηση.

Αυτές οι συμβουλές θα σας βοηθήσουν να λάβετε πιο ολοκληρωμένες απαντήσεις από το ChatGPT και να υπερβείτε το ανεπίσημο όριο στη διάρκεια των απαντήσεών του.

ChatGPT: Ποιότητα πάνω από ποσότητα

Αν και δεν υπάρχουν καθορισμένα όρια στο μήκος των απαντήσεων του ChatGPT, η πλατφόρμα φαίνεται να επιβάλλει ένα όριο περίπου πεντακοσίων λέξεων ή 4.000 χαρακτήρων.

Κυρίως αυτό μπορεί να αποδοθεί λόγω της τεράστιας ζήτησης για ChatGPT. Αυτό οδήγησε σε ελλιπείς απαντήσεις και σταμάτησε απαντήσεις στη μέση της πρότασης, αλλά υπάρχουν απλοί τρόποι αντιμετώπισης που θα σας βοηθήσουν να λάβετε μεγαλύτερες απαντήσεις.

Παρά τους περιορισμούς του, το ChatGPT παραμένει μια αξιοσημείωτη τεχνολογική εξέλιξη που θα συνεχίσει να αναπτύσσει και να διευρύνει τα ποιοτικά και ποσοτικά όρια της παραγωγής του.