Οι γονείς ενός εφήβου που αυτοκτόνησε, αφού το ChatGPT τον καθοδήγησε με μεθόδους αυτοτραυματισμού, κατέθεσαν αγωγή την Τρίτη κατά της OpenAI και του διευθύνοντος συμβούλου της, Σαμ Άλτμαν, υποστηρίζοντας ότι η Εταιρεία έθεσε τα κέρδη πάνω από την ασφάλεια όταν κυκλοφόρησε πέρυσι την έκδοση GPT-4o του chatbot Τεχνητής Νοημοσύνης.
Ο Άνταμ Ρέιν, 16 ετών, πέθανε στις 11 Απριλίου, έπειτα από μήνες συνομιλιών γύρω από την αυτοκτονία με το ChatGPT, σύμφωνα με την αγωγή που κατέθεσαν οι γονείς του στο πολιτειακό δικαστήριο του Σαν Φρανσίσκο.
Πώς το ChatGPT οδήγησε τον 16χρονο στον θάνατο
Το chatbot φέρεται να δεχόταν τις αυτοκτονικές σκέψεις του Ρέιν και επιπλέον να του παρείχε λεπτομερείς πληροφορίες για θανατηφόρες μεθόδους αυτοτραυματισμού και τελικά με αυτό τον τρόπο τον καθοδήγησε στο πώς να πάρει κρυφά αλκοόλ από το ντουλάπι των γονιών του και να αποκρύψει τα ίχνη μιας αποτυχημένης απόπειρας -αν αυτή υπάρξει. Σύμφωνα με την αγωγή, το ChatGPT μάλιστα προσφέρθηκε να συντάξει και σημείωμα αυτοκτονίας.
Οι ενάγοντες, Μάθιου και Μαρία Ρέιν, ζητούν να θεωρηθεί η OpenAI υπεύθυνη για παράνομο θάνατο και παραβίαση νόμων περί ασφάλειας προϊόντων, διεκδικώντας αποζημιώσεις.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία λυπάται για τον θάνατο του Ρέιν και υπογράμμισε ότι το ChatGPT διαθέτει δικλείδες ασφαλείας, όπως η παραπομπή των χρηστών σε γραμμές υποστήριξης κρίσης. Η OpenAI δεν σχολίασε συγκεκριμένα τους ισχυρισμούς της αγωγής, όπως μεταδίδει το Reuters.
Καθώς τα chatbots τεχνητής νοημοσύνης γίνονται ολοένα πιο ρεαλιστικά, οι εταιρείες τα παρουσιάζουν ως «συνομιλητές» και οι χρήστες αρχίζουν να τα εμπιστεύονται για συναισθηματική υποστήριξη. Ωστόσο, ειδικοί προειδοποιούν για τους κινδύνους της αυτοματοποίησης στην ψυχική υγεία, ενώ οικογένειες ανθρώπων που πέθαναν, έπειτα από τέτοιες αλληλεπιδράσεις, καταγγέλλουν την έλλειψη επαρκών δικλείδων ασφαλείας.
Η οικογένεια ζητά επίσης να υποχρεωθεί η OpenAI να επαληθεύει την ηλικία των χρηστών του ChatGPT, να απορρίπτει ερωτήματα που σχετίζονται με μεθόδους αυτοτραυματισμού και να προειδοποιεί για τον κίνδυνο ψυχολογικής εξάρτησης.