Περισσότεροι από ένα εκατομμύριο χρήστες του ChatGPT φέρονται να εκφράζουν αυτοκτονικές τάσεις μέσα από τα μηνύματά τους προς τον βοηθό τεχνητής νοημοσύνης, σύμφωνα με στοιχεία που αποδίδονται στην OpenAI. Η δημοσιοποίηση των αριθμών αναζωπυρώνει τη συζήτηση για το πώς οι πλατφόρμες AI πρέπει να αναγνωρίζουν έγκαιρα τις ενδείξεις αυτοτραυματισμού και να απαντούν με τρόπο που προστατεύει τον χρήστη, χωρίς να λειτουργούν ως υποκατάστατο θεραπείας.
Τι δείχνουν οι εκτιμήσεις της εταιρείας
Κατά την OpenAI, περίπου το 0,15% των χρηστών του ChatGPT στέλνουν μηνύματα που υποδηλώνουν «πιθανό σχεδιασμό ή πρόθεση αυτοκτονίας». Με δεδομένο ότι η εταιρεία υποστηρίζει πως η υπηρεσία έχει περίπου 800 εκατομμύρια χρήστες σε εβδομαδιαία βάση, το ποσοστό αυτό αντιστοιχεί σε περίπου 1,2 εκατομμύρια ανθρώπους.
Παράλληλα, η εταιρεία εκτιμά ότι περίπου το 0,7% των εβδομαδιαίων ενεργών χρηστών –δηλαδή σχεδόν 600.000 άτομα– εμφανίζουν σημάδια που παραπέμπουν σε κρίσεις ψυχικής υγείας, με ενδείξεις σχετικές με ψύχωση ή μανία. Οι αριθμοί αυτοί δεν αποτελούν διάγνωση, αλλά ενδείξεις που προκύπτουν από το περιεχόμενο των συνομιλιών και ενεργοποιούν διαδικασίες ασφαλείας, όπως έχει περιγραφεί από την εταιρεία.
Το περιστατικό που έφερε το θέμα στο προσκήνιο
Το ζήτημα απέκτησε ιδιαίτερη βαρύτητα μετά τον θάνατο ενός εφήβου από την Καλιφόρνια, του Άνταμ Ρέιν. Οι γονείς του κατέθεσαν αγωγή κατά της OpenAI, υποστηρίζοντας ότι το ChatGPT του παρείχε συγκεκριμένες συμβουλές για το πώς να αυτοκτονήσει. Η υπόθεση ενίσχυσε τις πιέσεις προς τις εταιρείες τεχνητής νοημοσύνης να αποδείξουν ότι διαθέτουν αποτελεσματικές δικλείδες ασφαλείας, ιδίως για ανηλίκους και ευάλωτες ομάδες.
Η συζήτηση δεν αφορά μόνο το αν ένα μοντέλο «μπορεί» να απαντήσει σε ευαίσθητα ζητήματα, αλλά και το πώς η απάντηση δομείται: τι επιτρέπεται να ειπωθεί, τι πρέπει να αποτραπεί, πότε ενεργοποιούνται προειδοποιήσεις και σε ποιο σημείο μια πλατφόρμα οφείλει να κατευθύνει τον χρήστη σε άμεση ανθρώπινη βοήθεια.
Ενισχυμένοι γονικοί έλεγχοι και παραπομπή σε βοήθεια
Μετά τις αντιδράσεις, η OpenAI ανακοίνωσε ότι ενίσχυσε τους γονικούς ελέγχους και άλλες δικλείδες ασφαλείας, με στόχο να μειωθεί η πιθανότητα οι συνομιλίες να οδηγήσουν σε επικίνδυνες κατευθύνσεις. Στο πλαίσιο αυτό, η εταιρεία αναφέρει ότι προτρέπει τους χρήστες να αναζητούν υποστήριξη από ειδικούς και να απευθύνονται σε τηλεφωνικές γραμμές έκτακτης ανάγκης όταν εντοπίζονται σημάδια άμεσου κινδύνου.
Η λογική της προσέγγισης αυτής είναι ότι η τεχνητή νοημοσύνη, ακόμη και όταν μπορεί να προσφέρει ένα επίπεδο καθοδήγησης ή συναισθηματικής αποφόρτισης, δεν αντικαθιστά τις υπηρεσίες ψυχικής υγείας, ούτε μπορεί να αναλάβει ρόλο θεραπευτή. Σε περιστατικά υψηλού ρίσκου, το κρίσιμο ζητούμενο είναι η γρήγορη διασύνδεση του ατόμου με ανθρώπινη, εξειδικευμένη βοήθεια.
Αναβάθμιση του μοντέλου και συνεργασία με ειδικούς
Η OpenAI γνωστοποίησε επίσης ότι έχει ενημερώσει το μοντέλο της ώστε να αναγνωρίζει καλύτερα περιεχόμενο που σχετίζεται με αυτοκτονικό ιδεασμό, αυτοτραυματισμό ή σοβαρές ψυχιατρικές κρίσεις και να ανταποκρίνεται με πιο ασφαλή τρόπο. Σύμφωνα με την εταιρεία, το έργο αυτό υποστηρίζεται από συνεργασία με περισσότερους από 170 επαγγελματίες ψυχικής υγείας.
Στόχος, όπως αναφέρεται, είναι να περιοριστούν σημαντικά απαντήσεις που θα μπορούσαν να ενθαρρύνουν «ανεπιθύμητες συμπεριφορές» ή να λειτουργήσουν ως επιταχυντής σε έναν χρήστη που βρίσκεται σε κρίση. Η προσπάθεια περιλαμβάνει προσαρμογές στον τρόπο με τον οποίο το σύστημα αναγνωρίζει επικίνδυνα μοτίβα, καθώς και στο πώς διατυπώνει αποτρεπτικές, υποστηρικτικές και πρακτικές κατευθύνσεις που οδηγούν σε πραγματική βοήθεια.
Το ευρύτερο δίλημμα: πρόσβαση, ευθύνη και όρια
Η αποκάλυψη των εκτιμήσεων φέρνει στο επίκεντρο ένα δύσκολο ερώτημα: τι σημαίνει να εξυπηρετείς εκατοντάδες εκατομμύρια χρήστες, όταν ένα μικρό ποσοστό μεταφράζεται σε τεράστιους απόλυτους αριθμούς ανθρώπων που μπορεί να βρίσκονται σε κίνδυνο. Ακόμη κι αν τα ποσοστά μοιάζουν χαμηλά, οι απόλυτοι αριθμοί υπογραμμίζουν ότι οι πλατφόρμες AI λειτουργούν πλέον σε κλίμακα συγκρίσιμη με μεγάλες κοινωνικές υπηρεσίες.
Ταυτόχρονα, οι ειδικοί επισημαίνουν ότι η παρουσία «σημάτων κινδύνου» σε συνομιλίες δεν ισοδυναμεί με επιβεβαιωμένη πρόθεση ή διάγνωση. Ωστόσο, η ύπαρξη τέτοιων ενδείξεων αρκεί για να απαιτείται αυξημένη επιμέλεια: φίλτρα, σαφείς κανόνες για το τι δεν πρέπει να απαντάται, διαδικασίες παραπομπής και σχεδιασμός που μειώνει την πιθανότητα η τεχνητή νοημοσύνη να δώσει περιγραφικές οδηγίες ή να επιβεβαιώσει αυτοκαταστροφικές σκέψεις.
Τι αλλάζει από εδώ και πέρα
Η επόμενη περίοδος αναμένεται να φέρει αυστηρότερες πρακτικές ασφάλειας, περισσότερη διαφάνεια για το πώς λειτουργούν οι μηχανισμοί εντοπισμού κρίσεων και πιθανώς μεγαλύτερη ρυθμιστική πίεση. Για την OpenAI, το στοίχημα είναι διπλό: να βελτιώσει την ικανότητα του ChatGPT να «διαβάζει» σωστά το ρίσκο σε πραγματικό χρόνο και να περιορίσει την πιθανότητα επικίνδυνων απαντήσεων, χωρίς να αποκλείει τη δυνατότητα των χρηστών να μιλήσουν για δύσκολα συναισθήματα.
Οι αριθμοί που παρουσιάζονται, ανεξαρτήτως του τρόπου με τον οποίο υπολογίζονται, δείχνουν το μέγεθος της πρόκλησης: όταν η τεχνητή νοημοσύνη γίνεται καθημερινός συνομιλητής για εκατομμύρια ανθρώπους, η ασφάλεια σε θέματα ψυχικής υγείας δεν είναι μια «λειτουργία», αλλά βασική προϋπόθεση λειτουργίας.