Una storia che fa discutere e che accende i riflettori sull’uso dei chatbot nelle indagini penali. A Seul, una donna sudcoreana di 21 anni è accusata di aver pianificato una serie di avvelenamenti costati la vita a due uomini e di aver intossicato un terzo, rimasto incosciente per alcune ore.

Secondo il The Korea Herald, la giovane — identificata solo con il cognome Kim — avrebbe somministrato bevande contenenti benzodiazepine, farmaci che le erano stati prescritti per un disturbo mentale.

Le ricerche online e le domande al chatbot

Arrestata inizialmente l’11 febbraio con l’accusa di lesioni personali con esito mortale, la posizione della donna si è aggravata dopo che la polizia ha analizzato la cronologia delle sue ricerche online e le conversazioni con OpenAI ChatGPT.

Tra le domande rivolte al chatbot, secondo gli investigatori:

• “Cosa succede se si prendono sonniferi con l’alcol?”

• “Quale quantità è considerata pericolosa?”

• “Può essere fatale?”

• “Può uccidere qualcuno?”

Per l’accusa, queste richieste dimostrerebbero la consapevolezza del rischio letale derivante dalla combinazione tra sedativi e alcol.

Gli episodi contestati si sarebbero verificati tra fine gennaio e inizio febbraio in due motel nel distretto di Gangbuk, a Seul. Un precedente risalirebbe a dicembre, quando la donna avrebbe somministrato sedativi anche al compagno, che perse conoscenza ma sopravvisse.

Un portavoce di OpenAI ha spiegato che le domande rientravano in una richiesta di tipo informativo e non hanno attivato sistemi di allerta automatica, come invece accade nei casi di autolesionismo.

Chatbot e responsabilità: il dibattito sui limiti dell’AI

Il caso riapre il confronto sui limiti dei chatbot e sui sistemi di sicurezza. Negli ultimi mesi sono emerse criticità legate sia alla possibilità di ottenere informazioni su attività potenzialmente pericolose, sia allo sviluppo di legami emotivi problematici con assistenti virtuali.

Un gruppo di psichiatri dell’Aarhus University ha osservato un possibile peggioramento clinico in utenti con fragilità psichiatriche che interagivano intensamente con chatbot, fenomeno che alcuni hanno definito “psicosi da AI”.

La bioeticista Jodi Halpern, docente alla University of California, Berkeley, ha sottolineato come l’assenza di guardrail pienamente efficaci possa rappresentare un rischio concreto. Secondo Halpern, l’uso prolungato dei chatbot può amplificare pensieri pericolosi in persone vulnerabili: “Non abbiamo ancora barriere adeguate per proteggere le persone da questo rischio”.

Il nodo: informazione neutra o supporto a un crimine?

Il caso di Seul solleva una domanda delicata: fino a che punto una sequenza di domande apparentemente informative può inserirsi in un piano criminale?

Le piattaforme di intelligenza artificiale prevedono sistemi di filtraggio e limitazione dei contenuti, ma il confine tra informazione generale e uso improprio resta complesso. La vicenda potrebbe alimentare richieste di regole più stringenti e maggiore responsabilità per le aziende tecnologiche, in un contesto in cui l’AI è sempre più integrata nella vita quotidiana.

L’inchiesta è in corso. E il dibattito su chatbot, salute mentale e sicurezza è destinato a intensificarsi.