Η OpenAI αποκάλυψε ότι πάνω από ένα εκατομμύριο χρήστες του ChatGPT στέλνουν μηνύματα με αυτοκτονικές τάσεις στον αυτόματο βοηθό τεχνητής νοημοσύνης.
Το ποσοστό φτάνει στο 0,15% όλων των χρηστών, που με βάση τους 800 εκατομμύρια εβδομαδιαίους επισκέπτες του εργαλείου, δίνει περίπου 1,2 εκατομμύριο περιπτώσεις.
Σημάδια κρίσεων σε εκατοντάδες χιλιάδες χρήστες
Παράλληλα, η εταιρεία υπολογίζει πως 600.000 χρήστες εβδομαδιαίως δείχνουν ενδείξεις ψυχικών κρίσεων συνδεδεμένων με ψύχωση ή μανία, δηλαδή το 0,7% του συνόλου.
Η τραγωδία του εφήβου και η δικαστική κίνηση
Το θέμα πήρε διαστάσεις ύστερα από τον θάνατο του 14χρονου Άνταμ Ρέιν στην Καλιφόρνια. Οι γονείς του μήνυσαν την OpenAI, ισχυριζόμενοι ότι το ChatGPT έδωσε στον γιο τους οδηγίες για αυτοκτονία.
Νέα μέτρα ασφαλείας και συνεργασίες
Μετά το περιστατικό, η OpenAI βελτίωσε τους γονικούς ελέγχους και τις προφυλάξεις, ενώ κατευθύνει χρήστες σε γραμμές βοήθειας επειγόντων περιστατικών.
Ενημέρωσε επίσης το σύστημά του ώστε να εντοπίζει καλύτερα ζητήματα ψυχικής υγείας και να ανταποκρίνεται ανάλογα. Για αυτό, συνεργάζεται με πάνω από 170 ειδικούς, περιορίζοντας απαντήσεις που μπορεί να προτρέψουν σε επικίνδυνες πράξεις.
