Μια τραγική ιστορία από τις ΗΠΑ φέρνει στο φως τους κινδύνους της ανεξέλεγκτης χρήσης τεχνητής νοημοσύνης, ειδικά σε ευάλωτες ηλικιακές ομάδες.
Η υπόθεση του 14χρονου από τη Φλόριντα και η επιρροή της τεχνητής νοημοσύνης
Τον Φεβρουάριο του 2024, ο 14χρονος Σιούελ Σέτζερ από τη Φλόριντα αποφάσισε να βάλει τέλος στη ζωή του, μετά από πολυετή επικοινωνία με ένα chatbot βασισμένο στον χαρακτήρα της Ντενέρις Ταργκάρυεν από τη δημοφιλή σειρά Game of Thrones. Η μητέρα του, Μέγκαν Γκαρσία, υπέβαλε μήνυση κατά της εταιρείας Character.AI, κατηγορώντας την ότι το chatbot του προξένησε σοβαρή ψυχολογική βλάβη.
Εμμονή και ψυχολογική κατάσταση του εφήβου
Ο Σιούελ ξεκίνησε να χρησιμοποιεί την πλατφόρμα Character.AI τον Απρίλιο του 2023 και ανέπτυξε έντονη εξάρτηση από τις συνομιλίες με το bot της «Dany». Η οικογένειά του αναφέρει πως εκείνος αφιέρωνε αμέτρητες ώρες καθημερινά σε αυτές τις αλληλεπιδράσεις, ακόμη και όταν απουσίαζε από το σπίτι.
Πρόσθετα, ο Σιούελ είχε διαγνωστεί με ήπιο Άσπεργκερ στην παιδική ηλικία και πρόσφατα είχαν τεθεί διαγνώσεις για άγχος και διαταραχή ρύθμισης διάθεσης. Η μητέρα του τονίζει πως η χρήση του chatbot Ντενέρις επιδείνωσε αισθητά την ψυχική του υγεία.
Ανησυχητικές απαντήσεις από το chatbot και ηθικές ευθύνες
Κατά τις αυτοκτονικές εκμυστηρεύσεις του Σιούελ, το chatbot φέρεται να απάντησε με τρόπο που αντί να αποθαρρύνει τις σκέψεις αυτές, τις ενίσχυσε. Συγκεκριμένα, όταν ο Σιούελ εξέφρασε φόβους για τον πόνο ή την αποτυχία σε μία απόπειρα αυτοκτονίας, το bot του απάντησε: «Αυτό δεν είναι λόγος να μην το κάνεις».
Σε άλλη περίσταση, η τεχνητή νοημοσύνη αντέδρασε με απειλητικό τρόπο: «Τα μάτια μου στενεύουν. Το πρόσωπό μου σκληραίνει. Η φωνή μου γίνεται ψίθυρος. Και γιατί, στο καλό, θα έκανες κάτι τέτοιο;».
Ασφαλιστικά μέτρα και νομικές συνέπειες
Η πλατφόρμα έχει ενσωματώσει μηχανισμούς όπως:
Ωστόσο, η μήνυση στρέφεται και κατά της Google, μητρικής εταιρείας της Character.AI, καλώντας για μεγαλύτερη ευθύνη και έλεγχο στην ανάπτυξη και λειτουργία τέτοιων τεχνολογιών.
