La società americana Openai ha annunciato martedì che avrebbe istituito un meccanismo di controllo parentale per il suo strumento di intelligenza artificiale Chatgpt, dopo che i genitori americani hanno accusato la fine di agosto questo agente conversazionale di aver incoraggiato il figlio a suicidarsi.
• Leggi anche: Confida in chatgpt “non sostituisce la terapia”, avverte uno specialista
“Nel prossimo mese, i genitori saranno in grado di collegare il loro account con quello del loro adolescente” e “controllare il modo in cui Chatgpt risponde al loro adolescente con regole di comportamento del modello”, ha affermato Openai in un post sul blog.
Secondo la società, sarà anche possibile avvisare i genitori in caso di rilevamento di “angoscia acuta” nelle conversazioni dei loro figli e di controllo dei parametri dell’account.
Questo annuncio segue un precedente post sul blog pubblicato alla fine di agosto, in cui la società aveva indicato che stava preparando un meccanismo di controllo dei genitori.
Il giorno prima, i genitori di un adolescente californiano di 16 anni che si era suicidato si erano lamentati contro Openi, accusando Chatgpt di aver fornito al figlio istruzioni dettagliate per porre fine alla sua vita e hanno incoraggiato il suo gesto.
“Continuiamo a migliorare il modo in cui i nostri modelli riconoscono e rispondono ai segni di angoscia mentale ed emotiva”, ha aggiunto l’azienda martedì nel suo post sul blog.
Openai ha dichiarato di aver preso altre misure, previste nei prossimi 120 giorni.
La società reindirizzerà quindi alcune “conversazioni sensibili” a modelli di ragionamento come il pensiero GPT-5, più avanzato.
“I modelli di ragionamento seguono e applicano le istruzioni di sicurezza in modo più sistematico”, ha affermato il gruppo americano.
