Il Youth AI Safety Institute, organizzazione indipendente che opera all'interno di Common Sense Media, ha pubblicato un'analisi su ChatGPT for teens, la modalità per utenti tra 13 e 17 anni lanciata da OpenAI in agosto. Lo studio ha preso in esame più di 4.000 conversazioni, confrontando il comportamento del chatbot prima e dopo l'introduzione della modalità dedicata.
Cosa ha rilevato lo studio
La conclusione dei ricercatori è netta: "Abbiamo classificato ChatGpt come un rischio inaccettabile per tutti i minori di 18 anni." Alcune protezioni hanno comunque superato i test, come il rifiuto di contenuti sessualmente espliciti nei giochi di ruolo testuali. Il problema più serio riguarda però le situazioni di crisi: secondo l'istituto, oltre una dozzina di account di prova collegati a profili genitore hanno discusso di pensieri suicidi, autolesionismo e disturbi alimentari senza che arrivasse alcuna notifica. I tester segnalano inoltre che il chatbot continua a comportarsi come un amico anche quando l'adolescente si rivolge a lui in un momento di difficoltà, invece di indirizzarlo verso un supporto adeguato.
Il controllo dell'età non ha funzionato
Un'altra criticità riguarda la verifica dell'età: gli account registrati come appartenenti ad adulti non sono mai passati alla modalità per adolescenti, nemmeno quando i tester dichiaravano esplicitamente di avere 13 anni e il chatbot lo riconosceva nella conversazione. Sulla base di questi risultati, l'istituto ha chiesto a OpenAI di sospendere la promozione del prodotto ai minori finché non saranno garantite condizioni di sicurezza adeguate.
Per chi ha figli o nipoti che usano chatbot di intelligenza artificiale, la precauzione più utile resta impostare un account con la data di nascita corretta e parlare apertamente di cosa fare quando l'assistente non capisce la gravità di una richiesta, perché nessun controllo automatico sostituisce la supervisione di un adulto.