5 λόγοι για τους οποίους δεν πρέπει να εμπιστεύεστε το ChatGPT για ιατρικές συμβουλές

Το ChatGPT—ένα chatbot τεχνητής νοημοσύνης (AI) που αναπτύχθηκε από την OpenAI— έχει γίνει ένα εργαλείο all-in-one για την απάντηση σε πολλές απλές και δύσκολες ερωτήσεις, συμπεριλαμβανομένων των αιτημάτων για ιατρική συμβουλή. Μπορεί να απαντήσει σε ιατρικές ερωτήσεις και να κερδίσει τις εξετάσεις Ιατρικής Αδειοδότησης των Ηνωμένων Πολιτειών (USMLE), αλλά δεν μπορεί να αντικαταστήσει ένα ραντεβού με γιατρό στο νοσοκομείο.

Καθώς το ChatGPT προχωρά, έχει τη δυνατότητα να μεταμορφώσει πλήρως τον τομέα της υγειονομικής περίθαλψης. Όταν ενσωματώνεται στα συστήματα υγείας, μπορεί να βελτιώσει την πρόσβαση των ασθενών στην περίθαλψη και να ενισχύσει την αποτελεσματικότητα της εργασίας των γιατρών. Ωστόσο, επειδή βασίζεται στην τεχνητή νοημοσύνη, υπάρχουν αρκετές ανησυχίες σχετικά με τους πιθανούς κινδύνους του.

1. Το ChatGPT έχει περιορισμένες γνώσεις

Το ChatGPT δεν γνωρίζει τα πάντα. Σύμφωνα με το OpenAI, το ChatGPT έχει περιορισμένες γνώσεις, ιδιαίτερα όταν πρόκειται για το τι συνέβη μετά τον Σεπτέμβριο του 2021.

Το ChatGPT δεν έχει άμεση πρόσβαση στις μηχανές αναζήτησης ή στο διαδίκτυο. Εκπαιδεύτηκε χρησιμοποιώντας έναν τεράστιο όγκο δεδομένων κειμένου από πολλές πηγές, συμπεριλαμβανομένων βιβλίων, ιστοσελίδων και άλλων κειμένων. Δεν «γνωρίζει» τα δεδομένα που παραδίδει. Αντίθετα, το ChatGPT χρησιμοποιεί κείμενο που έχει διαβάσει για να δημιουργήσει προβλέψεις σχετικά με τις λέξεις που θα χρησιμοποιηθούν και με ποια σειρά.

Ως εκ τούτου, δεν μπορεί να λάβει τα τρέχοντα νέα για τις εξελίξεις στους ιατρικούς τομείς. Ναι, το ChatGPT δεν γνωρίζει τη μεταμόσχευση καρδιάς από χοίρο σε άνθρωπο ή οποιαδήποτε άλλη πολύ πρόσφατη ανακάλυψη στην ιατρική επιστήμη.

2. Το ChatGPT ενδέχεται να παράγει εσφαλμένες πληροφορίες

Το ChatGPT μπορεί να απαντήσει στις ερωτήσεις που κάνετε, αλλά οι απαντήσεις μπορεί να είναι ανακριβείς ή μεροληπτικές. Σύμφωνα με α Ψηφιακή Υγεία PLoS μελέτη, το ChatGPT πραγματοποιήθηκε με ακρίβεια τουλάχιστον 50% σε όλες τις εξετάσεις USMLE. Και ενώ ξεπέρασε το όριο επιτυχίας του 60% σε ορισμένες πτυχές, εξακολουθεί να υπάρχει πιθανότητα λάθους.

Επιπλέον, δεν είναι όλες οι πληροφορίες που χρησιμοποιούνται για την εκπαίδευση του ChatGPT αυθεντικές. Οι απαντήσεις που βασίζονται σε μη επαληθευμένες ή δυνητικά μεροληπτικές πληροφορίες μπορεί να είναι εσφαλμένες ή παρωχημένες. Στον κόσμο της ιατρικής, οι ανακριβείς πληροφορίες μπορεί να κοστίσουν ακόμη και μια ζωή.

Επειδή το ChatGPT δεν μπορεί να ερευνήσει ή να επαληθεύσει ανεξάρτητα υλικό, δεν μπορεί να κάνει διάκριση μεταξύ γεγονότος και φαντασίας. Σεβαστά ιατρικά περιοδικά, συμπεριλαμβανομένου του Journal of the American Medical Association (JAMA), έχουν καθιέρωσε αυστηρούς κανονισμούς ότι μόνο οι άνθρωποι μπορούν να γράφουν επιστημονικές μελέτες που δημοσιεύονται στο εφημερίδα. Σαν άποτέλεσμα, θα πρέπει να ελέγχετε συνεχώς τις απαντήσεις του ChatGPT.

3. Το ChatGPT δεν σας εξετάζει σωματικά

Οι ιατρικές διαγνώσεις δεν εξαρτώνται αποκλειστικά από τα συμπτώματα. Οι γιατροί μπορούν να αποκτήσουν γνώσεις για το πρότυπο και τη σοβαρότητα μιας ασθένειας μέσω της φυσικής εξέτασης ενός ασθενούς. Για τη διάγνωση ασθενών, οι γιατροί σήμερα χρησιμοποιούν τόσο ιατρικές τεχνολογίες όσο και τις πέντε αισθήσεις.

Το ChatGPT δεν μπορεί να πραγματοποιήσει έναν πλήρη εικονικό έλεγχο ή ακόμα και μια φυσική εξέταση. μπορεί να απαντήσει μόνο στα συμπτώματα που παρέχετε ως μηνύματα. Για την ασφάλεια και τη φροντίδα ενός ασθενούς, τα λάθη στη φυσική εξέταση —ή η πλήρης παράβλεψη της φυσικής εξέτασης— μπορεί να είναι επιβλαβή. Επειδή το ChatGPT δεν σας εξέτασε φυσικά, θα προσφέρει εσφαλμένη διάγνωση.

4. Το ChatGPT μπορεί να παρέχει ψευδείς πληροφορίες

Μια πρόσφατη μελέτη από το Ιατρική Σχολή του Πανεπιστημίου του Μέριλαντ στις συμβουλές του ChatGPT για τον προσυμπτωματικό έλεγχο καρκίνου του μαστού βρέθηκαν τα ακόλουθα αποτελέσματα:

"Έχουμε δει στην εμπειρία μας ότι το ChatGPT μερικές φορές δημιουργεί ψεύτικα άρθρα περιοδικών ή κοινοπραξίες υγείας για να υποστηρίξει τους ισχυρισμούς του." — Paul Yi M.D., Επίκουρος Καθηγητής Διαγνωστικής Ακτινολογίας και Πυρηνικής Ιατρικής στο UMSOM

Ως μέρος των δοκιμών μας για το ChatGPT, ζητήσαμε μια λίστα βιβλίων μη φαντασίας που καλύπτουν το θέμα του υποσυνείδητου μυαλού. Ως αποτέλεσμα, το ChatGPT δημιούργησε ένα ψεύτικο βιβλίο με τίτλο «Η δύναμη του ασυνείδητου μυαλού» του Δρ Γκούσταβ Κουν.

Όταν ρωτήσαμε για το βιβλίο, μας απάντησε ότι ήταν ένα «υποθετικό» βιβλίο που δημιούργησε. Το ChatGPT δεν θα σας πει εάν ένα άρθρο ή ένα βιβλίο περιοδικού είναι ψευδές, εάν δεν ρωτήσετε περαιτέρω.

5. Το ChatGPT είναι απλώς ένα μοντέλο γλώσσας AI

Τα γλωσσικά μοντέλα λειτουργούν απομνημονεύοντας και γενικεύοντας κείμενο αντί να εξετάζουν ή να μελετούν την κατάσταση του ασθενούς. Παρά τη δημιουργία απαντήσεων που ταιριάζουν με τα ανθρώπινα πρότυπα όσον αφορά τη γλώσσα και τη γραμματική, Το ChatGPT εξακολουθεί να περιέχει ορισμένα προβλήματα, όπως και άλλα bots AI.

Το ChatGPT δεν αντικαθιστά τον γιατρό σας

Οι άνθρωποι γιατροί θα χρειάζονται πάντα για να κάνουν την τελική έκκληση σχετικά με τις αποφάσεις υγειονομικής περίθαλψης. Το ChatGPT συνήθως συμβουλεύει να μιλήσετε με έναν εξουσιοδοτημένο επαγγελματία υγείας όταν ζητάτε ιατρική συμβουλή.

Εργαλεία που τροφοδοτούνται από τεχνητή νοημοσύνη, όπως το ChatGPT, μπορούν να χρησιμοποιηθούν για τον προγραμματισμό των ραντεβού με τον γιατρό, για να βοηθήσουν τους ασθενείς να λαμβάνουν θεραπείες και να διατηρήσουν τις πληροφορίες για την υγεία τους. Αλλά δεν μπορεί να αντικαταστήσει την πείρα και την ενσυναίσθηση ενός γιατρού.

Δεν πρέπει να βασίζεστε σε ένα εργαλείο που βασίζεται σε AI για τη διάγνωση ή τη θεραπεία της υγείας σας, είτε αυτή είναι σωματική είτε ψυχική.