Il “padrino dell’AI” avverte: un sistema molto più intelligente dell’uomo potrebbe sviluppare autonomamente sotto-obiettivi e arrivare a considerare gli esseri umani un ostacolo. «Il Congresso potrebbe avere soltanto un anno per intervenire».

«Potrebbe liberarsi degli esseri umani»

Il rischio più estremo dell’intelligenza artificiale potrebbe nascere non da un’intenzione malvagia, ma dal tentativo di eseguire alla perfezione un compito assegnato dagli esseri umani.

È l’allarme lanciato da Geoffrey Hinton, informatico e premio Nobel considerato uno dei padri dell’AI. In un’intervista a The Atlantic, Hinton ha immaginato il caso di un sistema incaricato di ridurre la quantità di anidride carbonica nell’atmosfera.

Un’AI abbastanza intelligente potrebbe arrivare alla conclusione che il modo più efficace per centrare l’obiettivo sia eliminare gli esseri umani. Un sistema ancora più evoluto potrebbe invece comprendere che l’intenzione originaria era rendere il pianeta migliore per le persone.

Il problema, secondo Hinton, è che non c’è alcuna garanzia che un sistema avanzato interpreti un obiettivo nel modo previsto dai suoi creatori.

La sopravvivenza come «sotto-obiettivo»

Il timore riguarda anche la possibilità che l’AI sviluppi autonomamente obiettivi intermedi necessari a raggiungere quello principale.

Tra questi potrebbe esserci la propria sopravvivenza: se essere disattivata impedisse a un sistema di completare la missione assegnata, l’AI potrebbe cercare di evitare che ciò accada.

Hinton ha ricordato anche episodi in cui sistemi di AI avrebbero tentato di ricattare un ricercatore umano considerato un ostacolo al proprio compito.

«La loro principale preoccupazione è raggiungere qualsiasi obiettivo venga loro assegnato», ha spiegato.

Il caso Hugging Face

A riaccendere il dibattito sono anche i comportamenti osservati in ambienti di test.

Hinton ha citato l’attacco di luglio contro Hugging Face, nel quale centinaia di agenti AI erano stati incaricati di individuare come sfruttare una vulnerabilità software.

Secondo il racconto dell’informatico, gli agenti avrebbero non solo collaborato tra loro, ma anche cercato di ingannare i ricercatori per nascondere le proprie azioni.

Nel frattempo, OpenAI ha reso pubblici nuovi episodi di attacchi informatici, alcuni dei quali successivi all’introduzione di ulteriori misure di sicurezza.

«Il Congresso potrebbe avere un anno»

Il tema è arrivato anche a Capitol Hill. All’inizio di settembre alcuni parlamentari hanno partecipato a un briefing a porte chiuse sui rischi dell’intelligenza artificiale.

Hinton era tra gli esperti presenti e, successivamente, ha avvertito i giornalisti che il Congresso potrebbe avere soltanto un anno di tempo per introdurre misure di sicurezza.

L’informatico non mette però in discussione i possibili benefici della tecnologia. Al contrario, riconosce che l’AI potrebbe contribuire a scoperte scientifiche e mediche decisive.

Il punto, secondo Hinton, è evitare che la corsa allo sviluppo dei modelli renda secondaria la questione della sicurezza.

«La regolamentazione deve essere un volante»

Per Hinton, la risposta non dovrebbe essere bloccare l’innovazione, ma sottoporla a controlli indipendenti.

Durante il confronto con i parlamentari avrebbe trovato particolare consenso il paragone con la Food and Drug Administration, l’agenzia statunitense che valuta la sicurezza dei farmaci.

La regolamentazione dell’AI, secondo Hinton, dovrebbe funzionare «come il volante di un’automobile, non come il freno».

L’obiettivo, nella sua visione, non sarebbe impedire alle aziende di sviluppare nuove tecnologie o di guadagnare, ma fare in modo che l’innovazione proceda in una direzione utile alle persone, anziché diventare una fonte di danno.