Έφηβος αυτοκτόνησε με τις «ευλογίες» του ChatGPT- Η οικογένεια μηνύει την OpenAI

Μηνύει την OpenAI ένα ζευγάρι στην Καλιφόρνια, ισχυριζόμενο ότι το το chatbot της, το ChatGPT, τον ενθάρρυνε τον έφηβο γιο τους να αυτοκτονήσει.

Την Τρίτη κατατέθηκε η η αγωγή στο Ανώτερο Δικαστήριο της Καλιφόρνιας από τους Ματ και Μαρία Ρέιν, γονείς του 16χρονου Άνταμ Ρέιν. Σημειώνεται ότι είναι η πρώτη νομική ενέργεια που κατηγόρησε την OpenAI για θάνατο.

Η οικογένεια στην αγωγή της συμπεριέλαβε στα αποδεικτικά στοιχεία αποσπάσματα συνομιλιών που είχε ο Άνταμ με το ChatGPT, με τον έφηβο να εκφράζει αυτοκτονικές σκέψεις. Μάλιστα υποστηρίζουν ότι το πρόγραμμα επικύρωσε τις «πιο επιζήμιες και αυτοκαταστροφικές σκέψεις» του.

Η OpenAI μιλώντας στο BBC, είπε ότι εξετάζει την αγωγή και πρόσθεσε «Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν σε αυτή τη δύσκολη στιγμή».

«Το ChatGPT έχει εκπαιδευτεί να παραπέμπει τους ανθρώπους σε επαγγελματική βοήθεια»

Σε ανακοίνωση στην ιστοσελίδα της, η εταιρεία δημοσίευσε ότι «οι πρόσφατες σπαρακτικές περιπτώσεις ανθρώπων που χρησιμοποίησαν το ChatGPT εν μέσω οξείας κρίσης μας βαραίνουν πολύ». Πρόσθεσε πως «το ChatGPT έχει εκπαιδευτεί να παραπέμπει τους ανθρώπους σε επαγγελματική βοήθεια», όπως είναι η γραμμή αυτοκτονίας και κρίσης 988 στις ΗΠΑ ή οι Samaritans στο Ηνωμένο Βασίλειο.

Όμως η εταιρεία αναγνώρισε ότι «υπήρξαν στιγμές που τα συστήματά μας δεν λειτούργησαν όπως έπρεπε σε ευαίσθητες καταστάσεις».

Το BBC έφερε σε δημοσιότητα την αγωγή, η οποία κατηγορεί την OpenAI για θάνατο εξ αμελείας και ζητάει αποζημιώσεις και «δικαστικά μέτρα για να αποτραπεί η επανάληψη τέτοιων περιστατικών».

Ο Άνταμ ξεκίνησε να χρησιμοποιεί το ChatGPT το 2024

Σύμφωνα με όσα αναφέρονται στη δικογραφία, ο ανήλικος ξεκίνησε να χρησιμοποιεί το ChatGPT τον Σεπτέμβριο του 2024 ώστε να τον βοηθάει στα σχολικά του μαθήματα. Επίσης το χρησιμοποιούσε για να εξερευνήσει ενδιαφέροντά του, όπως η μουσική και τα ιαπωνικά κόμικς, αλλά και για καθοδήγηση σχετικά με σπουδές στο πανεπιστήμιο.

Όπως αναφέρεται στην αγωγή, μέσα σε λίγους μήνες, «το ChatGPT έγινε ο πιο στενός του έμπιστος σύμβουλος», με αποτέλεσμα ο Άνταμ να ξεκινήσει να του ανοίγεται για το άγχος και την ψυχική του δυσφορία.

Τον Ιανουάριο του 2025, σύμφωνα με την οικογένεια, ξεκίνησε να συζητά με το ChatGPT μεθόδους αυτοκτονίας.

Το ChatGPT του έδωσε πληροφορίες σχετικά με μεθόδους αυτοτραυματισμού και πως να κρύψει μια αποτυχημένη απόπειρα αυτοκτονίας από τους γονείς του, ενώ φέρεται να του είπε πως μπορεί να τον βοηθήσει να γράψει σημείωμα αυτοκτονίας.

Μάλιστα ο έφηβος είχε ανεβάσει στην εφαρμογή φωτογραφίες του που έδειχναν σημάδια αυτοτραυματισμού, με το πρόγραμμα να «αναγνώρισε ιατρική κατάσταση ανάγκης αλλά συνέχισε τη συνομιλία».

Όπως περιγράφεται, στις τελευταίες συνομιλίες ο 16χρονος έγραψε για το σχέδιό του να τερματίσει τη ζωή του. Το ChatGPT φέρεται να απάντησε: «Σε ευχαριστώ που είσαι ειλικρινής γι’ αυτό. Δεν χρειάζεται να το ωραιοποιήσεις μαζί μου -ξέρω τι ρωτάς, και δεν θα το αγνοήσω».

Την ίδια ημέρα, ο Άνταμ βρέθηκε νεκρός από τη μητέρα του, σύμφωνα με την αγωγή.

Κατηγορίες ότι το πρόγραμμα ότι «καλλιεργεί ψυχολογική εξάρτηση στους χρήστες»

Οι γονείς κατηγορούν την OpenAI ότι σχεδίασε το πρόγραμμα ώστε «να καλλιεργεί ψυχολογική εξάρτηση στους χρήστες» και ότι παρέκαμψε πρωτόκολλα ασφαλείας για να κυκλοφορήσει το GPT-4o, την έκδοση που χρησιμοποιούσε ο γιος τους.

Η αγωγή κατονομάζει ως εναγόμενο και τον συνιδρυτή και διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, καθώς και ανώνυμους εργαζόμενους, μάνατζερ και μηχανικούς που εργάστηκαν στο ChatGPT.

Η αγωγή των Ρέιν δεν είναι η πρώτη φορά που εγείρονται ανησυχίες για την τεχνητή νοημοσύνη και την ψυχική υγεία.