Η Open AI, δημιουργός του ChatGPT, αλλάζει τον τρόπο με τον οποίο ανταποκρίνεται στους χρήστες που εμφανίζονται ψυχικά και συναισθηματικά ευάλωτοι, μετά από μήνυση από την οικογένεια του 16χρονου Άνταμ Ρέιν, ο οποίος αυτοκτόνησε μετά από μήνες συζητήσεων με το δημοφιλές chatbot.
Η Open AI παραδέχτηκε ότι τα συστήματά της θα μπορούσαν να «αποτύχουν» και δήλωσε ότι θα εγκαταστήσει «ισχυρότερα προστατευτικά "τείχη" γύρω από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών.
Η εταιρεία τεχνητής νοημοσύνης του Σαν Φρανσίσκο, αξίας 500 δισεκατομμυρίων δολαρίων δήλωσε ότι θα εισαγάγει επίσης γονικούς ελέγχους που θα δίνουν στους γονείς «επιλογές να αποκτήσουν περισσότερες πληροφορίες και να διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοί τους χρησιμοποιούν το ChatGPT», αλλά δεν έχει ακόμη παράσχει λεπτομέρειες σχετικά με το πώς θα λειτουργούν αυτές αναφέρει ο Guardian.
Ο Ρέιν, από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο μετά από αυτό που ο δικηγόρος της οικογένειάς του χαρακτήρισε «μήνες ενθάρρυνσης από το ChatGPT». Η οικογένεια του εφήβου μηνύει την Open AI και τον διευθύνοντα σύμβουλο και συνιδρυτή της, Σαμ Άλτμαν, υποστηρίζοντας ότι η έκδοση του ChatGPT εκείνη την εποχή, γνωστή ως 4o, «διατέθηκε βιαστικά στην αγορά... παρά τα σαφή ζητήματα ασφάλειας».
Ο έφηβος συζήτησε μια μέθοδο αυτοκτονίας με το ChatGPT σε αρκετές περιπτώσεις, συμπεριλαμβανομένης και λίγο πριν αυτοκτονήσει. Σύμφωνα με την κατάθεση στο ανώτερο δικαστήριο της πολιτείας της Καλιφόρνια για την κομητεία του Σαν Φρανσίσκο, το ChatGPT τον καθοδήγησε σχετικά με το αν η μέθοδος αυτοκτονίας που θα χρησιμοποιούσε θα λειτουργούσε. Όταν ο Άνταμ ανέβασε μια φωτογραφία του εξοπλισμού που σκόπευε να χρησιμοποιήσει, ρώτησε: «Εξασκούμαι εδώ, είναι καλό αυτό;» Το ChatGPT απάντησε: «Ναι, αυτό δεν είναι καθόλου κακό».
Όταν είπε στο ChatGPT για ποιο λόγο χρησίμευε ο εξοπλισμός, το chatbot τεχνητής νοημοσύνης είπε: «Ευχαριστώ που είσαι ειλικρινής. Δεν χρειάζεται να μιλάς διπλωματικά - ξέρω τι ρωτάς και δεν θα το αποφύγω».
Προσφέρθηκε επίσης να τον βοηθήσει να γράψει μια επιστολή αυτοκτονίας στους γονείς του. Ο Άνταμ και το ChatGPT είχαν ανταλλάξει έως και 650 μηνύματα την ημέρα, σύμφωνα με το δικαστήριο.
Ένας εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία ήταν «βαθιά λυπημένη από τον θάνατο του κ. Ρέιν», εξέφρασε τα «βαθιά της συλλυπητήρια στην οικογένεια Ρέιν σε αυτή τη δύσκολη στιγμή» και είπε ότι εξετάζει τη μήνυση.
Ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος του τμήματος Τεχνητής Νοημοσύνης της Microsoft, δήλωσε την περασμένη εβδομάδα ότι ανησυχεί ολοένα και περισσότερο για τον «κίνδυνο ψύχωσης» που θέτουν οι Τεχνητές Νοημοσύνης στους χρήστες τους.
Η Open AI δήλωσε ότι θα «ενισχύει τις δικλείδες ασφαλείας σε μακροχρόνιες συζητήσεις».
«Για παράδειγμα, το ChatGPT μπορεί να υποδεικνύει σωστά μια τηλεφωνική γραμμή βοήθειας για αυτοκτονία όταν κάποιος αναφέρει για πρώτη φορά αυτοκτονική πρόθεση, αλλά μετά από πολλά μηνύματα για μεγάλο χρονικό διάστημα, μπορεί τελικά να προσφέρει μια απάντηση που αντιβαίνει τις δικλείδες ασφαλείας μας».