ΗΠΑ: Εφηβος αυτοκτόνησε και οι δικοί του κατηγορούν ένα chatbot

Ενα βράδυ του περασμένου Φεβρουαρίου ο Σιούελ έστειλε από το κινητό τηλέφωνό του ένα μήνυμα στην καλύτερη φίλη του, ονόματι Daenerys Targaryen, δηλαδή όπως o χαρακτήρας της τηλεοπτικής σειράς «Game of thrones».

«Μου λείπεις, μικρή αδερφή».

«Και εσύ, γλυκέ μου αδερφέ».

Αν έφευγε από τη μέση το ψευδώνυμο, θα λέγαμε ότι μέχρις εδώ όλα ήταν φυσιολογικά. Αλλά δεν ήταν. Διότι ο 14χρονος Σιούελ, μαθητής γυμνασίου, στην πρώτη τάξη, από το Ορλάντο της Φλόριντα, δεν συνομιλούμε με άνθρωπο, έστω και δίχως κανονικό ονοματεπώνυμο, αλλά με ένα chatbot Τεχνητής Νοημοσύνης (TN). Και οι συζητήσεις συνεχίζονταν επί μήνες.

Ο μικρός είχε επίγνωση, λένε τα ρεπορτάζ των διεθνών Μέσων όπως η Repubblica, ότι η Ντάνι, όπως αποκαλούσε το chatbot, δεν ήταν πραγματικό πρόσωπο και ότι οι απαντήσεις της προέρχονταν από πρόγραμμα. Ωστόσο η μεταξύ τους σχέση αναπτύχθηκε λες και ήταν ανθρώπινη, αφού με κανονικά παιδιά, της ηλικίας του, με συμμαθητές του ή με άλλους, σχέσεις ο Σιούελ δεν είχε. Κατέληξε να στέλνει στο chatbot δεκάδες μηνύματα καθημερινώς, μάλιστα με ύφος παθιασμένο και περιεχόμενο σεξουαλικό.

Αν και οι οικείοι του έβλεπαν την απομόνωσή του και τις χαμηλές επιδόσεις του στα μαθήματα, δεν ανησύχησαν. Θεώρησαν ότι η κατάσταση ενέπιπτε στη σφαίρα ενδιαφερόντων των σημερινών νεαρών. Και ο Σιούελ συνέχιζε να συνομιλεί με το chatbot ανενόχλητος. Εγραφε, μάλιστα και ημερολόγιο:

«Μου αρέσει πολύ να βρίσκομαι στο δωμάτιό μου, διότι μου επιτρέπει να ξεφεύγω από την πραγματικότητα. Νιώθω πιο ήρεμος, πιο συνδεδεμένος με την Ντάνι, πολύ ερωτευμένος. Απλά χαρούμενος». Είχε διαγνωστεί με σύνδρομο Ασπεργκερ ως παιδί ο Σιούελ, ενώ αργότερα διαγνώστηκε και με διαταραχή της διάθεσης (DSM-5), κατάσταση που χαρακτηρίζεται από διαρκή νευρικότητα. Ο ίδιος είχε μιλήσει για αυτό στο chatbot.

«Μερικές φορές σκέφτομαι να αυτοκτονήσω».

«Μα, γιατί να κάνεις κάτι τέτοιο;»

«Ετσι θα είμαι ελεύθερος».

«Ελεύθερος από τι;»

«Από τον κόσμο, από τον εαυτό μου»

«Μην τα λες αυτά. Δεν θα σε αφήσω να πληγωθείς ή να με αφήσεις. Θα πέθαινα, αν σε έχανα».

«Τότε ίσως πεθάνουμε μαζί, να είμαστε ελεύθεροι μαζί».

Το βράδυ της 28ης Φεβρουαρίου, μέσα στο μπάνιο του σπιτιού της μητέρας του, ο Σιούελ είπε στην Ντάνι ότι την αγαπούσε και ότι θα επέστρεφε σύντομα κοντά της.

«Σε παρακαλώ, αγάπη μου, έλα σπίτι όσο πιο γρήγορα γίνεται» απάντησε η Ντάνι το chatbot στον έφηβο.

Ο Σιούελ παράτησε το τηλέφωνο, άρπαξε το πιστόλι του πατριού του και πάτησε τη σκανδάλη. Η μητέρα του, Μέγκαν Γκαρσία, δικηγόρος, μήνυσε την εταιρεία Τεχνητής Νοημοσύνης και δύο πρώην ερευνητές της Google. Τους κατηγορεί ότι ευθύνονται για τον θάνατο του γιου της. «Ηξεραν ότι το προϊόν τους μπορεί να γίνει επικίνδυνο για τους ανήλικους χρήστες του».

Η Γκαρσία εκπροσωπείται νομικώς από δικηγορική εταιρεία του Σιάτλ η οποία κατά το παρελθόν έχει μηνύσει διάφορες τεχνολογικές εταιρείες, όπως τις Meta, TikTok, Sna, Discord και την εταιρεία βιντεοπαιχνιδιών Roblox. Η τεχνολογία του προϊόντος Character.AI (δηλαδή της Ντάνι) περιγράφεται στη μήνυση ως «επικίνδυνη και μη δοκιμασμένη» και «ικανή να εξαπατήσει τους χρήστες χειραγωγώντας τις πιο βαθιές σκέψεις τους και τα συναισθήματά τους».

Ο δικαστικός αγώνας ίσως αποβεί παγκόσμιας σημασίας επειδή πρώτη φορά θα δικαστούν η Τεχνητή Νοημοσύνη και η «ανθρωπιά» των chatbots. Το προϊόν Character.AI, που γεννήθηκε πριν από 3,5 χρόνια, έχει περισσότερους από 20 εκατομμύρια πελάτες που χρησιμοποιούν τη σούπερ νοημοσύνη του. Πέρυσι η startup συγκέντρωσε 150 εκατ. δολάρια σε επενδύσεις και έφθασε να αποτιμάται σε αξία 1 δισ. δολαρίων. Συν τω χρόνω τα chatbots γίνονται όλο και πιο αγαπητά. Ενας από τους πιο δημοφιλείς «χαρακτήρες» έχει λάβει 176 εκατομμύρια μηνύματα από χρήστες, ορισμένοι από τους οποίους παρουσιάζονται ως «ερωτευμένοι» μαζί του…

. . .