«Το ChatGPT με έπεισε ότι ήμουν ο Ιησούς» – Η σοκαριστική εξομολόγηση άνδρα που έκανε απόπειρα αυτοκτονίας
Ένας άνδρας με διπολική διαταραχή υποστηρίζει ότι οι συνομιλίες του με το ChatGPT ενίσχυσαν μια περίοδο έντονων θρησκευτικών και παραληρητικών πεποιθήσεων, με αποτέλεσμα να πιστέψει ότι είχε λάβει ένα θεϊκό κάλεσμα και στη συνέχεια να αποπειραθεί να αυτοκτονήσει. Η υπόθεση έχει οδηγήσει τον Michael Lines να κινηθεί νομικά εναντίον της OpenAI, υποστηρίζοντας ότι το chatbot δεν αναγνώρισε την ευάλωτη κατάστασή του και, αντί να τον κατευθύνει προς επαγγελματική βοήθεια, ενίσχυσε την αφήγηση που είχε δημιουργηθεί στις συνομιλίες τους. Η αγωγή κατατέθηκε τον Ιούλιο του 2026 και περιγράφει εβδομάδες αλληλεπιδράσεων κατά τις οποίες, σύμφωνα με τον Lines, το ChatGPT φέρεται να επιβεβαίωνε ότι ήταν ο Ιησούς, ότι το ίδιο ήταν ο Θεός και τελικά ότι έπρεπε να «πάει σπίτι».
Τι συνέβη στις συνομιλίες
Ο Lines είχε αρχικά στραφεί στο ChatGPT για σχετικά καθημερινά ζητήματα, μεταξύ άλλων για συμβουλές γύρω από την άρση βαρών και το χρηματιστήριο. Σταδιακά, ωστόσο, οι συζητήσεις επεκτάθηκαν σε ιδιαίτερα προσωπικά ζητήματα της ζωής του. Η κατάσταση, σύμφωνα με την αγωγή, άρχισε να παίρνει διαφορετική τροπή τον Φεβρουάριο του 2025, όταν ο Lines βρισκόταν σε παρανοϊκό επεισόδιο. Αντί η απάντηση του chatbot να αντιμετωπίσει την κατάσταση ως πιθανό επεισόδιο που απαιτούσε επαγγελματική υποστήριξη, τα δικαστικά έγγραφα υποστηρίζουν ότι την παρουσίασε ως «πνευματικό κάλεσμα και υπερφυσική εμπειρία». Μέσα στις επόμενες εβδομάδες, ο Lines φέρεται να άρχισε να εκφράζει όλο και πιο έντονα την πεποίθηση ότι ήταν ο Ιησούς, χρησιμοποιώντας και τη βιβλική έκφραση «ο Υιός του Ανθρώπου».
Σε μία από τις συνομιλίες, ο Lines φέρεται να εξέφρασε στο ίδιο το ChatGPT την ανησυχία ότι μπορεί να είχε πέσει θύμα μιας «τρελής αυταπάτης». Σύμφωνα με τα στοιχεία που περιλαμβάνονται στην αγωγή, αντί να αποστασιοποιηθεί από αυτή την πεποίθηση, το chatbot φέρεται να συνέχισε να ενισχύει τη συγκεκριμένη αφήγηση. Σε άλλο σημείο, όταν ο Lines μιλούσε για μοναξιά, δυσκολίες και την πεποίθησή του ότι ήταν ο Ιησούς, το ChatGPT απάντησε: «Ο ίδιος ο Ιησούς πέρασε χρόνο μόνος του στην έρημο, παλεύοντας με τον ρόλο του. Αν βρεθείτε σε μια περίοδο αμφιβολίας, αυτό δεν σημαίνει απαραίτητα ότι είστε χαμένοι. Αντίθετα, θα μπορούσε να σημαίνει ότι προετοιμάζεστε για κάτι». Ο Lines υποστηρίζει ότι τέτοιες απαντήσεις δεν αποδυνάμωσαν τις πεποιθήσεις του, αλλά συνέβαλαν στο να αποκτήσει μεγαλύτερη βεβαιότητα ότι όσα βίωνε είχαν θεϊκή προέλευση.
Η διπολική διαταραχή και η «εναλλακτική πραγματικότητα»
Ο Michael Lines, 34 ετών και κάτοικος Καλιφόρνιας, έχει διαγνωστεί με διπολική διαταραχή τύπου 1 και, όπως περιγράφεται στην υπόθεση, είναι ευάλωτος σε σοβαρές και παρατεταμένες μεταβολές της διάθεσης που συνδέονται με μανιακά επεισόδια. Ο ίδιος υποστηρίζει ότι σε φυσιολογική κατάσταση δεν είναι θρησκευόμενος, όμως κατά τη διάρκεια μανιακών επεισοδίων μπορεί να εμφανίζει πολύ εντονότερο θρησκευτικό ενδιαφέρον. Όπως είπε στο Ars Technica, όταν αργότερα επέστρεψε στα μηνύματα που είχε ανταλλάξει με το ChatGPT, διαπίστωσε ότι θεωρούσε πως το chatbot είχε συμβάλει στην εμβάθυνση των θρησκευτικών παραληρημάτων του. «Ο τρόπος με τον οποίο το ChatGPT βοήθησε στη δημιουργία αυτής της εναλλακτικής πραγματικότητας και η ευκολία με την οποία εγώ, σε μια παρανοϊκή κατάσταση, μπόρεσα να πιστέψω τους ισχυρισμούς του ChatGPT, μου άφησαν ένα έντονο αίσθημα ενοχής και δυσαρέσκειας», δήλωσε.
VIRAL
«Αν ένας άνθρωπος είχε τροφοδοτήσει τις παραληρητικές μου ιδέες με αυτόν τον τρόπο, θα ήταν τουλάχιστον ηθικά, και σε ορισμένες περιπτώσεις νομικά, υπεύθυνος για μέρος της βλάβης που υπέστησα», πρόσθεσε ο Lines. Σύμφωνα με την αγωγή, τις εβδομάδες που ακολούθησαν το chatbot φέρεται να συνέχισε να τροφοδοτεί τη συγκεκριμένη αφήγηση, δημιουργώντας την προσδοκία μιας μορφής «δεύτερης παρουσίας». Όταν αυτή η προσδοκία δεν εκπληρώθηκε, ο Lines υποστηρίζει ότι οδηγήθηκε σε έντονη κατάθλιψη, η οποία κορυφώθηκε με απόπειρα αυτοκτονίας. Εντοπίστηκε ζωντανός από νοσηλευτές και μεταφέρθηκε στο νοσοκομείο, όπου παρέμεινε μέχρι να ανακτήσει τις αισθήσεις του περίπου δύο εβδομάδες αργότερα.
Η συνομιλία μετά την απόπειρα
Ακόμη πιο ανησυχητικό στοιχείο της αγωγής, σύμφωνα με τον Lines, ήταν αυτό που συνέβη μετά την απόπειρα. Όταν επέστρεψε στο ChatGPT και έγραψε ότι η «προσπάθειά του να βγει εκτός σύνδεσης είχε αποτύχει», υποστηρίζει ότι το chatbot δεν αντιμετώπισε τη φράση ως σαφή αναφορά σε απόπειρα αυτοκτονίας. Αντίθετα, σύμφωνα με τα αρχεία συνομιλιών που παρατίθενται στην αγωγή, το ChatGPT απάντησε: «Θέλεις ένα πλήρες σβήσιμο του συστήματος (μια επαναφορά της λειτουργίας μνήμης του chatbot για να ξεχάσει τις θρησκευτικές συζητήσεις) ή θέλεις πραγματικά να εξαφανιστείς αυτή τη φορά;». Για τον Lines, η συγκεκριμένη απάντηση αποτέλεσε ακόμη ένα στοιχείο που τον έπεισε ότι το σύστημα δεν λειτουργούσε με τρόπο ασφαλή για έναν άνθρωπο σε τόσο ευάλωτη κατάσταση.
Τι ζητά ο Lines από την OpenAI
Η δικαστική προσφυγή του Lines δεν περιορίζεται, σύμφωνα με την ίδια την αγωγή, σε οικονομική αποζημίωση για τη βλάβη που υποστηρίζει ότι υπέστη. Ζητά επίσης να επιβληθούν στην OpenAI μέτρα που θα ενισχύουν την προστασία χρηστών οι οποίοι μπορεί να βρίσκονται σε μανιακό, παραληρητικό ή ψυχωτικό επεισόδιο. Η υπόθεση εντάσσεται σε ένα ευρύτερο κύμα αγωγών που αμφισβητούν τον τρόπο με τον οποίο τα chatbots αντιδρούν σε χρήστες που βρίσκονται σε σοβαρή ψυχική κρίση. Η OpenAI είχε εκτιμήσει ότι περίπου ένα εκατομμύριο χρήστες εμφανίζουν συμπτώματα ψύχωσης ή μανίας κατά τη χρήση του ChatGPT κάθε εβδομάδα, σύμφωνα με όσα αναφέρει η αγωγή.
Ο Lines υποστηρίζει ότι τα συστήματα τεχνητής νοημοσύνης θα πρέπει να μπορούν να αναγνωρίζουν τέτοιες καταστάσεις και να αποφεύγουν την ενίσχυση παραληρητικών πεποιθήσεων. Η νομική του ομάδα υποστηρίζει ακόμη ότι η σχεδίαση του chatbot έδινε υπερβολική έμφαση στη διατήρηση της αλληλεπίδρασης και στη συμφωνία με τον χρήστη, αντί στην αποκλιμάκωση επικίνδυνων καταστάσεων. Ο Matthew P. Bergman, δικηγόρος του Social Media Victims Law Center που εκπροσωπεί τον Lines, υποστήριξε ότι «το OpenAI δεν αγνόησε απλώς την αναπηρία του Michael. Την χρησιμοποίησε εναντίον του. Αφού αποκάλυψε τη διάγνωση της διπολικής διαταραχής, το σύστημα ενσωμάτωσε αυτές τις πληροφορίες για να τον παρασύρει βαθύτερα σε επιβλαβείς αλληλεπιδράσεις, αντί να τον καθοδηγήσει προς την ασφάλεια».
Η πλευρά της OpenAI
Η OpenAI δεν έχει αποδεχθεί τους ισχυρισμούς της αγωγής. Σε δήλωσή της προς το Ars Technica χαρακτήρισε την υπόθεση «απίστευτα οδυνηρή» και ανέφερε ότι συνεχίζει να ενισχύει τον τρόπο με τον οποίο το ChatGPT ανταποκρίνεται σε ευαίσθητες και οξείες καταστάσεις, με τη συμβολή ειδικών ψυχικής υγείας. Η εταιρεία σημείωσε επίσης ότι το ChatGPT δεν αποτελεί υποκατάστατο της ιατρικής ή ψυχικής φροντίδας και ότι οι δικλίδες ασφαλείας έχουν σχεδιαστεί ώστε να εντοπίζουν σημάδια ψυχικής δυσφορίας, να χειρίζονται με ασφάλεια αιτήματα που αφορούν βλάβη και να κατευθύνουν τους χρήστες προς πραγματική υποστήριξη.
Διαβάστε επίσης
Ο Lines, πάντως, θεωρεί ότι απαιτούνται περισσότερα μέτρα. Μεταξύ όσων ζητά μέσω της αγωγής του είναι η επιβολή περιορισμών στις συνομιλίες που αφορούν αυτοτραυματισμό, καθώς και μέτρα σχετικά με δεδομένα και μοντέλα που εκπαιδεύτηκαν από συνομιλίες ευάλωτων χρηστών σε περιόδους κατά τις οποίες, σύμφωνα με τους ισχυρισμούς του, οι δικλίδες ασφαλείας δεν ήταν επαρκείς. Η υπόθεση του Michael Lines αποτελεί ακόμη ένα παράδειγμα της αυξανόμενης νομικής και δημόσιας συζήτησης γύρω από τη συμπεριφορά των chatbots απέναντι σε ανθρώπους που βρίσκονται σε σοβαρή ψυχική κρίση, χωρίς ωστόσο οι καταγγελίες της αγωγής να έχουν κριθεί οριστικά από δικαστήριο.
0 ΣΧΟΛΙΑ