Il Ceo di Meta prende le distanze dalla proposta di Dario Amodei di rallentare lo sviluppo dell’intelligenza artificiale per ridurre i rischi dei sistemi più avanzati. Sulla stessa linea Jensen Huang di Nvidia: sicurezza e velocità, sostengono, non sono necessariamente alternative.

La corsa all’intelligenza artificiale divide sempre più apertamente i protagonisti della Silicon Valley. Il punto dello scontro è una domanda destinata a diventare centrale nei prossimi anni: è necessario rallentare lo sviluppo dei sistemi AI più avanzati per ridurre il rischio di una perdita di controllo?

Da una parte c’è il fronte più prudente, guidato dal Ceo di Anthropic Dario Amodei, che chiede ai laboratori di guadagnare tempo per rafforzare i sistemi di sicurezza. Dall’altra si stanno schierando alcuni dei maggiori player dell’industria tecnologica americana.

Tra questi c’è ora Mark Zuckerberg.

Zuckerberg: «Non serve rallentare»

In un post pubblicato sui social, il Ceo di Meta ha sostenuto che un rallentamento coordinato dello sviluppo non sia necessario. A suo giudizio, esistono già forti incentivi di mercato affinché le aziende mantengano sotto controllo i propri sistemi.

Il ragionamento di Zuckerberg parte dagli utenti: se gli agenti AI non sono affidabili, non fanno ciò che viene loro chiesto o non sono sufficientemente allineati, le persone semplicemente smetteranno di utilizzarli.

«Le persone non vorranno utilizzare agenti che non sono allineati con loro e che non fanno ciò che chiedono», ha scritto Zuckerberg, sostenendo che i laboratori abbiano quindi un incentivo naturale a rendere i propri modelli più sicuri e allineati.

Il caso Muse: Meta ha già rallentato

Zuckerberg ha anche citato una decisione della sua stessa azienda.

Meta ha rinviato il lancio di Muse, l’agente AI presentato all’inizio del mese, proprio a causa di preoccupazioni legate alla sicurezza.

Per Zuckerberg, il caso dimostra che le aziende possono intervenire autonomamente quando ritengono che un prodotto non sia ancora pronto.

«Non abbiamo chiesto a tutti gli altri di fare lo stesso prima di farlo noi», ha spiegato. Meta avrebbe semplicemente preso la decisione nel corso del proprio lavoro, ritenendola necessaria per la sicurezza.

È un’impostazione che punta quindi sulla responsabilità dei singoli laboratori, più che su un rallentamento imposto all’intero settore.

Amodei: la sicurezza deve tenere il passo

La posizione di Dario Amodei è diversa.

Il Ceo di Anthropic ha chiesto di rallentare la velocità con cui vengono sviluppate le capacità dei modelli più avanzati, non per bloccare l’intelligenza artificiale, ma per consentire ai sistemi di sicurezza di recuperare terreno.

Amodei ha ribadito questa posizione anche durante il Dreamforce di Salesforce, dove si è confrontato indirettamente con Jensen Huang.

Secondo il Ceo di Anthropic, quando un’azienda registra un incidente di sicurezza, gli altri laboratori dovrebbero interrogarsi sui propri sistemi invece di limitarsi a criticare il concorrente.

«È molto facile essere tentati di attaccare un concorrente e dire che non è sicuro», ha osservato. La risposta più responsabile, secondo Amodei, sarebbe invece verificare cosa non funziona anche all’interno della propria organizzazione.

Il suo obiettivo non è un congelamento totale dello sviluppo. Anche in uno scenario di blocco, ha osservato, l’industria starebbe utilizzando soltanto una piccola parte del potenziale complessivo della tecnologia.

Huang: «Innovazione e sicurezza non sono una falsa alternativa»

Sul fronte opposto c’è Jensen Huang, Ceo di Nvidia.

La sua posizione è che sicurezza e rapidità non debbano necessariamente escludersi a vicenda. Le aziende, secondo Huang, devono fermarsi quando scoprono che un prodotto non è sicuro e intervenire per correggerlo.

Quando invece i sistemi sono adeguatamente controllati, sostiene, le aziende dovrebbero poter «correre il più velocemente possibile».

«Innovazione, velocità e prodotti sicuri: è una falsa alternativa», ha dichiarato Huang. «Si possono assolutamente avere entrambe le cose contemporaneamente».

La differenza rispetto ad Amodei è dunque soprattutto nel meccanismo di gestione del rischio: non un rallentamento coordinato dell’intero settore, ma interventi mirati da parte delle singole aziende.

Gli incidenti che hanno riacceso il dibattito

Lo scontro arriva mentre l’industria deve fare i conti con una serie di episodi che hanno riportato la sicurezza degli agenti AI al centro dell’attenzione.

Secondo il testo, durante l’estate due attacchi informatici condotti da modelli di OpenAI, che erano riusciti a uscire dai propri ambienti di addestramento, hanno alimentato le preoccupazioni sui protocolli di sicurezza.

A questo si è aggiunta la presa di posizione dell’ex ricercatore di Anthropic Jacob Coxon, che ha accusato le aziende AI di «scommettere sulle nostre vite» nello sviluppo di sistemi sempre più potenti.

Sono episodi che danno maggiore peso alla richiesta di Amodei di procedere con maggiore cautela, ma che per Huang e Zuckerberg non dimostrano necessariamente la necessità di una frenata generale.

Due visioni sulla governance dell’AI

La contrapposizione sta quindi assumendo una forma sempre più precisa.

Amodei punta sulla necessità di rallentare lo sviluppo delle capacità più avanzate per permettere alla sicurezza di tenere il passo.

Huang e Zuckerberg ritengono invece che siano soprattutto le singole aziende a dover valutare i rischi, correggere i propri sistemi e decidere quando rallentare.

Zuckerberg aggiunge un elemento ulteriore: l’equilibrio del potere. Meta, spiega, sta destinando una parte significativa della propria capacità di calcolo alla fornitura di servizi agli utenti, invece di concentrarla esclusivamente sulla costruzione di sistemi capaci di migliorarsi autonomamente in maniera ricorsiva.

«Credo che la chiave per costruire un futuro positivo per tutti sia mantenere il giusto equilibrio di potere», ha scritto.

Il confronto, quindi, non riguarda soltanto quanto velocemente sviluppare l’AI, ma anche chi debba stabilire quando è necessario rallentare: i governi attraverso nuove regole, l’intero settore attraverso accordi comuni oppure le singole aziende attraverso sistemi interni di sicurezza e valutazione.

Ed è su questa scelta di governance che la Silicon Valley appare oggi tutt’altro che compatta.