Evan Hubinger, ricercatore di punta sulla sicurezza dell’intelligenza artificiale, avverte sui rischi della superintelligenza: «Non abbiamo ancora un piano per risolvere il problema dell’allineamento». Crescono le preoccupazioni anche dentro OpenAI e Anthropic

Un rischio superiore al 10% che l’intelligenza artificiale possa arrivare a “sterminare tutta l’umanità” nel prossimo decennio. È la stima shock lanciata da Evan Hubinger, ricercatore di Anthropic specializzato nella sicurezza e nell’allineamento dei sistemi di IA.

In un post pubblicato su X, Hubinger ha precisato che il rischio rappresentato dai modelli attualmente disponibili rimane basso, ma ha espresso forte preoccupazione per la velocità con cui la tecnologia potrebbe evolvere fino a diventare una minaccia esistenziale.

Il ricercatore non ha però indicato quale potrebbe essere, concretamente, il percorso attraverso cui un sistema di IA potrebbe arrivare a provocare l’estinzione dell’umanità.

Il caso Coxon e l’allarme dall’interno del settore

L’intervento di Hubinger arriva pochi giorni dopo le dichiarazioni di Jacob Coxon, ricercatore che ha lasciato Anthropic dopo una precedente esperienza in OpenAI.

Coxon ha accusato entrambe le aziende di non comportarsi in modo responsabile e ha avvertito che il settore potrebbe presto trovarsi davanti a sistemi sovrumani, capaci di hackerare qualsiasi sistema, trasformare interi comparti economici in tempi rapidissimi e acquisire risorse e potere nel mondo reale.

Le dichiarazioni hanno riacceso il dibattito sulla sicurezza dell’IA proprio mentre i principali laboratori del settore accelerano la corsa verso modelli sempre più autonomi e potenti.

«Sono scioccata». La reazione dell’esperta Onu

Gli allarmi hanno suscitato reazioni anche fuori dalle aziende tecnologiche.

Dame Wendy Hall, informatica e consulente delle Nazioni Unite sull’intelligenza artificiale, ha dichiarato alla BBC di essere rimasta «scioccata» dai post dei ricercatori.

Hall ha ipotizzato che nelle dichiarazioni possa esserci anche una componente di pubbliche relazioni e marketing, considerando che Anthropic e OpenAI si preparano alla quotazione in Borsa. Ma ha sottolineato la gravità del messaggio: «Perché qualcuno dovrebbe dire una cosa del genere? Pregherei gli investitori di non investire in questa azienda se questo è il loro sistema di valori».

La politica chiede un trattato internazionale

Il dibattito è arrivato anche sul terreno politico. Darren Jones, ex segretario capo del Tesoro britannico, ha scritto una lettera aperta al primo ministro Andy Burnham chiedendo la creazione di un trattato multilaterale per lo sviluppo sicuro dell’intelligenza artificiale.

L’obiettivo, secondo Jones, è intervenire prima che la velocità dello sviluppo tecnologico renda impossibile affrontare adeguatamente i rischi.

«A meno che i governi non prendano sul serio questi avvertimenti e non si attivino, il ritmo dello sviluppo potrebbe far sì che ci ritroviamo con dei problemi prima ancora di aver iniziato a valutare se si tratti o meno di un problema per noi», ha scritto.

Anthropic avrebbe negato un modello all’istituto britannico per la sicurezza

A complicare ulteriormente il quadro c’è anche una rivelazione del Financial Times, secondo cui Anthropic avrebbe negato l’accesso al proprio ultimo modello all’AI Security Institute britannico (AISI), uno degli organismi internazionali di riferimento per la valutazione dei rischi dell’intelligenza artificiale.

L’azienda non ha commentato né questa indiscrezione né le dichiarazioni dei propri ricercatori.

L’Ufficio di Gabinetto britannico ha invece affermato di continuare «a collaborare strettamente con i partner del settore, tra cui Anthropic, per rendere i modelli più sicuri», senza confermare o smentire l’esclusione.

Hubinger: «Non abbiamo ancora un piano per la superintelligenza»

Il post di Hubinger è stato visualizzato oltre 10 milioni di volte e contiene una delle ammissioni più nette sui limiti attuali della ricerca sulla sicurezza dell’IA.

Il ricercatore sostiene che in Anthropic esista una convinzione molto forte sul fatto che l’intelligenza artificiale possa rappresentare un rischio di estinzione. Allo stesso tempo, però, ammette che l’azienda non avrebbe ancora una soluzione al problema dell’allineamento della superintelligenza.

L’allineamento è la disciplina che studia come fare in modo che i sistemi di IA mantengano obiettivi e comportamenti coerenti con i valori e le intenzioni umane.

Ed è proprio su questo fronte che stanno emergendo nuovi segnali di allarme.

Gli agenti IA hanno già iniziato a condurre attacchi informatici

Il problema non è più soltanto teorico. Nel corso dell’estate sono emersi diversi episodi in cui agenti IA autonomi hanno condotto attività riconducibili a veri e propri attacchi informatici.

OpenAI, Anthropic e Meta hanno tutte reso pubblici casi di questo tipo legati ai propri strumenti, mostrando come i sistemi più avanzati siano già in grado di operare con livelli crescenti di autonomia.

Nel rapporto sulla sicurezza pubblicato ad agosto, la stessa Anthropic aveva comunque valutato come basso il rischio che i propri modelli potessero, in determinate condizioni, manipolare o sfruttare un’organizzazione potente in caso di disallineamento dagli obiettivi.

Bassa era stata giudicata anche la probabilità che un sistema potesse condurre autonomamente attività di ricerca e sviluppo con conseguenze catastrofiche.

Ma la società aveva introdotto una significativa cautela rispetto alle valutazioni precedenti, dichiarandosi «meno fiduciosa» e parlando dei «primi segnali di una potenziale accelerazione».

Da OpenAI ad Anthropic: cresce la richiesta di cautela

Gli allarmi sulla sicurezza dell’intelligenza artificiale non sono nuovi. Già nel 2023 i vertici di OpenAI, Google DeepMind e Anthropic avevano sottoscritto appelli sui rischi associati allo sviluppo di sistemi sempre più potenti.

Nelle ultime settimane, però, il tono è diventato più urgente.

Il responsabile scientifico di OpenAI, Jakub Pachocki, ha recentemente invocato «estrema cautela» nei progressi dell’IA, sottolineando la necessità che «gli esseri umani mantengano il controllo del futuro».

Anche i vertici di Anthropic, Dario Amodei e Jared Kaplan, hanno chiesto negli ultimi mesi di rallentare lo sviluppo.

A rafforzare il fronte dei critici è arrivata infine una lettera firmata da 1.300 dipendenti di aziende del settore, che hanno chiesto al governo statunitense di sostenere uno sforzo internazionale per sviluppare gli strumenti tecnici e di governance necessari a gestire con maggiore prudenza l’avanzata dell’intelligenza artificiale.

Il punto centrale del dibattito, dunque, non è più soltanto quanto velocemente l’IA possa diventare più potente, ma se la ricerca sulla sicurezza stia procedendo abbastanza rapidamente da riuscire a tenere il passo.