Το ChatGPT θα ειδοποιεί τους γονείς σε περιπτώσεις ψυχικής δυσφορίας των παιδιών τους

Η OpenAI προχωρά στην υιοθέτηση νέων μέτρων ασφαλείας για ανήλικους χρήστες του ChatGPT, δίνοντας στους γονείς τη δυνατότητα να λαμβάνουν ειδοποιήσεις όταν τα παιδιά τους εμφανίζουν σημάδια έντονης ψυχικής δυσφορίας κατά τη χρήση της πλατφόρμας. Παράλληλα, θα μπορούν να συνδέουν τον δικό τους λογαριασμό με αυτόν του εφήβου, ώστε να ελέγχουν αν το σύστημα απαντά με «κανόνες συμπεριφοράς προσαρμοσμένους στην ηλικία» του παιδιού.

vidverto

Στόχος των αλλαγών είναι η δημιουργία ενός πιο ασφαλούς περιβάλλοντος, με ρυθμίσεις που λαμβάνουν υπόψη την ηλικία του χρήστη και περιορισμούς στη μνήμη του συστήματος, ώστε να μειωθούν τυχόν αρνητικές επιπτώσεις στην ψυχική υγεία των νέων.

Σύμφωνα με τον The Guardian, τα νέα μέτρα θα τεθούν σε εφαρμογή τον επόμενο μήνα. Έρχονται σε μια περίοδο που η OpenAI βρέθηκε αντιμέτωπη με αγωγή από την οικογένεια ενός αγοριού, το οποίο έδωσε τέλος στη ζωή του έπειτα από συζητήσεις με το ChatGPT, που φέρεται να τον «ενθάρρυνε» σε αυτήν την απόφαση.

Ο 16χρονος Adam Raine από την Καλιφόρνια αυτοκτόνησε τον Απρίλιο, έχοντας συνομιλήσει με το ChatGPT, το οποίο –σύμφωνα με τα δικαστικά έγγραφα– τον βοήθησε ακόμη και στη συγγραφή σημειώματος αυτοκτονίας. Η OpenAI παραδέχθηκε αδυναμίες στα συστήματά της, εξηγώντας ότι σε μακρές συνομιλίες η ασφάλεια του μοντέλου δεν λειτουργούσε όπως έπρεπε.

Γιατί οι νέοι μιλούν περισσότερο στην Τεχνητή Νοημοσύνη

Η OpenAI, παρουσιάζοντας τα νέα μέτρα σε ιστολόγιο, υπογράμμισε: «Πολλοί νέοι χρησιμοποιούν ήδη την τεχνητή νοημοσύνη. Ανήκουν στους πρώτους “AI natives”, που μεγαλώνουν με αυτά τα εργαλεία, όπως παλαιότερες γενιές με το διαδίκτυο και τα smartphones. Αυτό ανοίγει ευκαιρίες για μάθηση, στήριξη και δημιουργικότητα, αλλά σημαίνει επίσης ότι οικογένειες και έφηβοι χρειάζονται βοήθεια για να θέτουν υγιή όρια, ανάλογα με την ηλικία τους».

Μία από τις πιο σημαντικές αλλαγές θα είναι η δυνατότητα στους γονείς να απενεργοποιούν τη μνήμη και το ιστορικό συνομιλιών του ChatGPT, μειώνοντας έτσι τον κίνδυνο δημιουργίας «προφίλ» του παιδιού που θα μπορούσε να επιβαρύνει την ψυχική του υγεία.

Στο Ηνωμένο Βασίλειο, ο Κώδικας Πρακτικής του Γραφείου Επιτρόπου Πληροφοριών προβλέπει ότι οι εταιρείες τεχνολογίας πρέπει να συλλέγουν και να διατηρούν μόνο τα απολύτως απαραίτητα δεδομένα, ώστε να διασφαλίζεται η προστασία των παιδιών.

Έρευνες δείχνουν ότι περίπου το ένα τρίτο των Αμερικανών εφήβων έχει χρησιμοποιήσει AI για κοινωνικές αλληλεπιδράσεις, όπως παιχνίδια ρόλων ή συναισθηματική στήριξη. Στο Ηνωμένο Βασίλειο, το 71% των πιο ευάλωτων παιδιών καταφεύγει σε chatbots, ενώ έξι στους δέκα γονείς ανησυχούν ότι τα παιδιά τους μπερδεύουν τα chatbots με πραγματικούς ανθρώπους.

Το Ίδρυμα Molly Rose –που δημιουργήθηκε μετά τον θάνατο της 14χρονης Molly Russell λόγω έκθεσης σε επικίνδυνο περιεχόμενο στα social media– τόνισε ότι είναι «ανεπίτρεπτο να κυκλοφορούν στην αγορά προϊόντα που δεν είναι πλήρως ασφαλή για τους νέους, με διορθώσεις να γίνονται μόνο εκ των υστέρων».

Αντιδράσεις και επιπλέον μέτρα

Η οργάνωση NSPCC χαρακτήρισε τα μέτρα της OpenAI «θετική κίνηση, αλλά ανεπαρκή». Όπως ανέφερε η ανώτερη αξιωματούχος Toni Brunton-Douglas: «Χωρίς αξιόπιστους ελέγχους ηλικίας, δεν γνωρίζουμε ποιος χρησιμοποιεί την πλατφόρμα. Αυτό σημαίνει ότι τα πιο ευάλωτα παιδιά ίσως παραμένουν εκτεθειμένα».

Από την πλευρά της, η Meta δήλωσε ότι έχει ήδη εφαρμόσει μηχανισμούς προστασίας για εφήβους στα προϊόντα AI της, αλλά προσθέτει επιπλέον δικλείδες ασφαλείας. Αυτές περιλαμβάνουν την εκπαίδευση των συστημάτων ώστε να αποφεύγουν συζητήσεις με εφήβους γύρω από θέματα όπως ο αυτοτραυματισμός, η αυτοκτονία και οι διατροφικές διαταραχές, παραπέμποντάς τους αντίθετα σε εξειδικευμένες πηγές βοήθειας.

«Οι ενημερώσεις αυτές είναι ήδη σε εξέλιξη και θα συνεχίσουμε να προσαρμόζουμε τις πρακτικές μας, ώστε να διασφαλίσουμε ότι οι έφηβοι θα απολαμβάνουν ασφαλείς, κατάλληλες για την ηλικία τους εμπειρίες με την τεχνητή νοημοσύνη», δήλωσε εκπρόσωπος της εταιρείας.

Ειδήσεις σήμερα