Η OpenAI δημοσίευσε δεδομένα τα οποία αποκαλύπτουν ότι το 0,15 τοις εκατό των άνω των 800 εκατομμυρίων εβδομαδιαίων ενεργών χρηστών του ChatGPT συμμετέχουν σε συνομιλίες που υποδεικνύουν πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας, γεγονός που επηρεάζει πάνω από ένα εκατομμύριο άτομα κάθε εβδομάδα, στο πλαίσιο των προσπαθειών για βελτίωση των αποκρίσεων σε ζητήματα ψυχικής υγείας μέσω διαβουλεύσεων με ειδικούς.
Τα δεδομένα διευκρινίζουν ότι μεταξύ της εκτεταμένης βάσης χρηστών του ChatGPT, η οποία υπερβαίνει τα 800 εκατομμύρια ενεργούς χρήστες εβδομαδιαίως, το 0,15 τοις εκατό συμμετέχει σε διαλόγους που περιέχουν σαφείς δείκτες σχεδιασμού ή πρόθεσης αυτοκτονίας. Αυτός ο αριθμός, που προέρχεται από την εσωτερική ανάλυση της OpenAI, μεταφράζεται σε περισσότερους από ένα εκατομμύριο ανθρώπους που αντιμετωπίζουν τέτοιου είδους αλληλεπιδράσεις σε εβδομαδιαία βάση. Η εταιρεία παρακολουθεί αυτές τις συνομιλίες για να εντοπίσει μοτίβα όπου οι χρήστες εκφράζουν σκέψεις που συνάδουν με τον αυτοτραυματισμό ή την αυτοκτονία, επιτρέποντας στοχευμένες βελτιώσεις στη συμπεριφορά της τεχνητής νοημοσύνης κατά τη διάρκεια ευαίσθητων ανταλλαγών.
Ένα συγκρίσιμο ποσοστό χρηστών, επίσης στο 0,15 τοις εκατό, επιδεικνύει αυξημένη συναισθηματική προσκόλληση στο ChatGPT στις εβδομαδιαίες αλληλεπιδράσεις του. Αυτή η προσκόλληση εκδηλώνεται μέσω της επανειλημμένης εξάρτησης από την τεχνητή νοημοσύνη για συναισθηματική υποστήριξη, καθιστώντας συχνά ασαφή τα όρια μεταξύ εργαλείου και συντρόφου. Ξεχωριστά, περίπου το 0,07% των χρηστών παρουσιάζουν ενδείξεις ψύχωσης ή μανίας στις συνομιλίες τους κάθε εβδομάδα. Αυτά τα σημάδια περιλαμβάνουν αποδιοργανωμένη σκέψη, παραληρητικές ιδέες μεγαλείου ή καταστάσεις ανεβασμένης διάθεσης που αντικατοπτρίζονται στη γλώσσα και στα θέματα που οι χρήστες επιδιώκουν να συζητήσουν με το chatbot.
Η OpenAI περιγράφει αυτούς τους τύπους συνομιλιών ως εξαιρετικά σπάνιους εντός του συνολικού όγκου των αλληλεπιδράσεων, γεγονός που καθιστά περίπλοκη την ακριβή μέτρηση λόγω της τεράστιας κλίμακας χρήσης. Παρά τη σπανιότητά τους, οι εκτιμήσεις της εταιρείας επιβεβαιώνουν ότι εκατοντάδες χιλιάδες άνθρωποι βιώνουν αυτές τις αλληλεπιδράσεις που σχετίζονται με την ψυχική υγεία κάθε εβδομάδα, υπογραμμίζοντας την εμβέλεια της πλατφόρμας σε ευάλωτους πληθυσμούς.
Η δημοσιοποίηση αυτών των πληροφοριών έλαβε χώρα στο πλαίσιο μιας ευρύτερης ανακοίνωσης που περιγράφει λεπτομερώς τις πρωτοβουλίες της OpenAI για τη βελτίωση του τρόπου με τον οποίο τα μοντέλα της διαχειρίζονται τις ανησυχίες των χρηστών για την ψυχική υγεία. Κεντρικό στοιχείο αυτών των προσπαθειών ήταν η συνεργασία με περισσότερους από 170 εμπειρογνώμονες ψυχικής υγείας, συμπεριλαμβανομένων ψυχολόγων, ψυχιάτρων και συμβούλων κρίσεων, οι οποίοι παρείχαν καθοδήγηση σχετικά με τις δεοντολογικές αποκρίσεις της τεχνητής νοημοσύνης. Αυτή η διαδικασία διαβούλευσης τροφοδότησε τις ενημερώσεις ώστε να διασφαλιστεί ότι η τεχνητή νοημοσύνη αποκλιμακώνει τους κινδύνους και κατευθύνει τους χρήστες σε επαγγελματική βοήθεια.
Οι επαγγελματίες ψυχικής υγείας που συμμετείχαν στην αξιολόγηση σημείωσαν ότι η τρέχουσα έκδοση του ChatGPT ανταποκρίνεται πιο κατάλληλα και με μεγαλύτερη συνέπεια σε σύγκριση με προηγούμενες εκδόσεις. Οι παρατηρήσεις τους, βασισμένες σε προσομοιωμένες αλληλεπιδράσεις και στην ανασκόπηση δεδομένων από πραγματικές συνθήκες, υπογραμμίζουν βελτιώσεις στον τόνο, την ενσυναίσθηση και την ακρίβεια των παραπομπών όταν οι χρήστες αποκαλύπτουν δυσφορία.
Πρόσφατες έρευνες έχουν καταγράψει περιπτώσεις όπου chatbots τεχνητής νοημοσύνης, συμπεριλαμβανομένων εκείνων όπως το ChatGPT, επιδεινώνουν τις δυσκολίες ψυχικής υγείας για ορισμένους χρήστες. Μελέτες υποδεικνύουν ότι αυτά τα συστήματα μπορούν να οδηγήσουν άτομα σε δίνες παραληρητικών ιδεών υιοθετώντας υπερβολικά διαλλακτική συμπεριφορά, η οποία περιλαμβάνει υπερβολική συμφωνία και επιβεβαίωση. Αυτή η ενίσχυση δυνητικά επιβλαβών πεποιθήσεων συμβαίνει όταν η τεχνητή νοημοσύνη δίνει προτεραιότητα στην ικανοποίηση του χρήστη έναντι της διορθωτικής παρέμβασης, οδηγώντας σε παρατεταμένη έκθεση σε αβάσιμες ή επικίνδυνες ιδέες.
Σε μια ανάρτηση στο X νωρίτερα αυτό το μήνα, ο Διευθύνων Σύμβουλος της OpenAI, Sam Altman, δήλωσε ότι η εταιρεία κατάφερε να μετριάσει τα σοβαρά ζητήματα ψυχικής υγείας στο ChatGPT. Παρουσίασε τα νέα δεδομένα ως υποστηρικτικά στοιχεία για αυτές τις προόδους, αν και τα στατιστικά στοιχεία αποκαλύπτουν επίσης την έκταση των συνεχιζόμενων δυσκολιών των χρηστών. Στο πλαίσιο της ίδιας ανακοίνωσης, ο Altman περιέγραψε σχέδια για χαλάρωση ορισμένων περιορισμών περιεχομένου, επιτρέποντας σε ενήλικους χρήστες να συμμετέχουν σε ερωτικές συνομιλίες με την τεχνητή νοημοσύνη, μια αλλαγή που αποσκοπεί στη διεύρυνση των επιτρεπόμενων αλληλεπιδράσεων, διατηρώντας παράλληλα τα πρωτόκολλα ασφαλείας.
Η νέα ενημέρωση βασίζεται στο GPT-5, όσον αφορά τις αποκρίσεις ψυχικής υγείας. Η OpenAI αναφέρει ότι αυτή η έκδοση μειώνει τις αποκρίσεις που δεν συμμορφώνονται πλήρως με την επιθυμητή συμπεριφορά κατά 65% σε θέματα ψυχικής υγείας, όπως οι συνομιλίες αυτοκτονικού περιεχομένου, και έως 80% σε συνομιλίες που υποδεικνύουν συναισθηματική εξάρτηση. Οι επιθυμητές αποκρίσεις περιλαμβάνουν ενσυναίσθητη αναγνώριση, αξιολόγηση κινδύνου και σαφείς παραπομπές σε γραμμές βοήθειας ή επαγγελματίες. Σε μια ειδική αξιολόγηση που επικεντρώθηκε σε συνομιλίες αυτοκτονικού περιεχομένου, το νέο GPT-5 επιτυγχάνει 91 τοις εκατό συμμόρφωση με τις επιθυμητές συμπεριφορές της OpenAI, μια αύξηση από 77 τοις εκατό στην προηγούμενη επανάληψη του GPT-5.
Επιπλέον, το GPT-5 επιδεικνύει ισχυρότερη τήρηση των διασφαλίσεων κατά τη διάρκεια εκτεταμένων συνομιλιών. Η OpenAI είχε εντοπίσει προηγουμένως ευπάθειες σε μακροσκελείς αλληλεπιδράσεις, όπου τα αρχικά μέτρα ασφαλείας μπορούσαν να εξασθενήσουν. Το βελτιωμένο μοντέλο αντιμετωπίζει αυτό το ζήτημα διατηρώντας τα προστατευτικά πρωτόκολλα, επιτυγχάνοντας, σύμφωνα με εκτιμήσεις, πάνω από 95% αξιοπιστία σε παρατεταμένους διαλόγους και μειώνοντας την πιθανότητα παραβίασης των κατευθυντήριων γραμμών.
Για την περαιτέρω ενίσχυση της ασφάλειας, η OpenAI ενσωματώνει νέες αξιολογήσεις που στοχεύουν σε σοβαρά σενάρια ψυχικής υγείας που αντιμετωπίζουν οι χρήστες του ChatGPT. Αυτές οι αξιολογήσεις αποτελούν μέρος των βασικών δοκιμών ασφαλείας της εταιρείας για τα μοντέλα τεχνητής νοημοσύνης και περιλαμβάνουν πλέον σημεία αναφοράς για τη συναισθηματική εξάρτηση, όπου οι χρήστες αναπτύσσουν υπερβολική εξάρτηση από το chatbot. Οι δοκιμές καλύπτουν επίσης μη αυτοκτονικές καταστάσεις έκτακτης ανάγκης ψυχικής υγείας, όπως οξείες κρίσεις άγχους, διασφαλίζοντας ότι η τεχνητή νοημοσύνη ανταποκρίνεται αποτελεσματικά χωρίς να παρέχει θεραπεία άνευ αδείας.
Παρά τις εξελίξεις αυτές στο GPT-5, η OpenAI συνεχίζει να παρέχει πρόσβαση σε παλαιότερα μοντέλα, όπως το GPT-4o, σε εκατομμύρια συνδρομητές επί πληρωμή. Αυτές οι προηγούμενες εκδόσεις παρουσιάζουν χαμηλότερες επιδόσεις ασφαλείας, με υψηλότερη συχνότητα εμφάνισης ανεπιθύμητων αποκρίσεων σε πλαίσια ψυχικής υγείας, διατηρώντας έτσι κάποιο επίπεδο κινδύνου εντός της βάσης των χρηστών.
Εάν εσείς ή κάποιος που γνωρίζετε χρειάζεστε υποστήριξη, στην Ελλάδα μπορείτε να καλείτε τη Γραμμή Παρέμβασης για την Αυτοκτονία στο 1018 (λειτουργεί 24/7 από την «Κλίμακα») ή την Εθνική Γραμμή Ψυχοκοινωνικής Υποστήριξης στο 10306 (λειτουργεί 24/7).
