Παρά τη φρενίτιδα γύρω από την τεχνητή νοημοσύνη και τις εντυπωσιακές επιδόσεις των chatbot σε εξετάσεις ιατρικής αδειοδότησης, μια νέα μελέτη αποκαλύπτει ότι η χρήση τους για προσωπικές ιατρικές συμβουλές δεν προσφέρει καλύτερα αποτελέσματα από τις παραδοσιακές πηγές πληροφοριών.
Η έρευνα, που δημοσιεύθηκε τη Δευτέρα στο επιστημονικό περιοδικό Nature Medicine, δείχνει ότι τα μεγάλα γλωσσικά μοντέλα, όπως το GPT της OpenAI, το Llama της Meta και το Command R+, παρουσιάζουν σημαντικούς περιορισμούς όταν καλούνται να βοηθήσουν πραγματικούς ανθρώπους στη διάγνωση ή στη λήψη αποφάσεων για την υγεία τους.
«Παρά την τεχνολογική πρόοδο, τα chatbot δεν είναι ακόμη έτοιμα να αναλάβουν τον ρόλο του γιατρού», δήλωσε η Ρεμπέκα Πέιν από το Πανεπιστήμιο της Οξφόρδης, συν-συγγραφέας της μελέτης. Τόνισε ότι οι χρήστες πρέπει να γνωρίζουν τους κινδύνους που συνεπάγεται η εξάρτηση από αυτά, καθώς μπορεί να οδηγήσουν σε λανθασμένες διαγνώσεις ή σε παραμέληση σοβαρών συμπτωμάτων που απαιτούν άμεση ιατρική παρέμβαση.
Στην έρευνα συμμετείχαν σχεδόν 1.300 ενήλικες από το Ηνωμένο Βασίλειο, οι οποίοι αντιμετώπισαν δέκα διαφορετικά ιατρικά σενάρια — από πονοκεφάλους μετά από κατανάλωση αλκοόλ και την κούραση νέων μητέρων, μέχρι συμπτώματα χολολιθίασης. Οι συμμετέχοντες χρησιμοποιούσαν είτε ένα από τα τρία chatbot είτε απλές μηχανές αναζήτησης στο διαδίκτυο (ομάδα ελέγχου).
Τα αποτελέσματα ήταν ανησυχητικά: μόνο στο ένα τρίτο των περιπτώσεων οι χρήστες κατάφεραν να αναγνωρίσουν σωστά το πρόβλημα, ενώ περίπου το 45% ακολούθησε τη σωστή ενέργεια. Οι επιδόσεις αυτές δεν ξεπέρασαν αυτές της ομάδας ελέγχου, υποδεικνύοντας ότι η τεχνητή νοημοσύνη δεν βελτιώνει ουσιαστικά την ικανότητα των ανθρώπων να διαχειριστούν ιατρικά ζητήματα.
Οι ερευνητές εξηγούν ότι η απόκλιση ανάμεσα στις εντυπωσιακές επιδόσεις των chatbot σε εξετάσεις και στα χαμηλά αποτελέσματα στην πραγματική ζωή οφείλεται σε ένα «ρήγμα επικοινωνίας». Στις προσομοιωμένες δοκιμές, τα μοντέλα τροφοδοτούνται με πλήρεις και σαφείς πληροφορίες, ενώ οι πραγματικοί χρήστες συχνά παρέχουν ελλιπή στοιχεία ή παρερμηνεύουν τις συμβουλές.
Σύμφωνα με την έρευνα, ένας στους έξι ενήλικες στις ΗΠΑ ζητά πληροφορίες υγείας από chatbot τουλάχιστον μία φορά τον μήνα, και το ποσοστό αυτό αναμένεται να αυξηθεί καθώς η τεχνολογία γίνεται πιο δημοφιλής.
Ο βιοηθικός Ντέιβιντ Σο από το Πανεπιστήμιο του Μάαστριχτ, που δεν συμμετείχε στη μελέτη, τόνισε ότι πρόκειται για «μια εξαιρετικά σημαντική έρευνα», αναδεικνύοντας τους ιατρικούς κινδύνους που κρύβει η αλόγιστη χρήση των chatbot από το κοινό. Συνιστά μάλιστα στους πολίτες να εμπιστεύονται ιατρικές πληροφορίες μόνο από αξιόπιστες πηγές, όπως το Εθνικό Σύστημα Υγείας του Ηνωμένου Βασιλείου (NHS).
Η μελέτη υπενθυμίζει ότι, παρά την εντυπωσιακή τεχνολογική πρόοδο, οι ψηφιακοί βοηθοί δεν μπορούν να υποκαταστήσουν την εμπειρία, την κρίση και την ανθρώπινη επαφή που προσφέρει ένας πραγματικός γιατρός.