Il cofondatore di Microsoft avverte che l’intelligenza artificiale potrebbe essere utilizzata da attori malintenzionati per causare eventi catastrofici su scala globale. Nel mirino soprattutto il rischio biologico. Intanto OpenAI e Anthropic rallentano lo sviluppo dei modelli più avanzati per rafforzare le misure di sicurezza.

Gates: «Mai esistita un’arma così potente»

Nel luglio 2023 Bill Gates aveva definito i rischi dell’intelligenza artificiale «reali ma gestibili». Tre anni dopo, però, il cofondatore di Microsoft lancia un avvertimento molto più netto.

«L’AI è certamente abbastanza potente da innescare eventi che causano un miliardo di morti», ha dichiarato durante un’intervista a Meet the Press. «Non c’è mai stata un’arma potente quanto la combinazione tra persone con intenzioni malevole e gli strumenti di AI più avanzati».

Gates, che da anni si occupa di prevenzione delle pandemie e sicurezza biologica, ritiene che il pericolo più immediato non sia rappresentato da sistemi di AI che sfuggono al controllo umano, ma dall’uso che potrebbero farne soggetti ostili.

Il timore principale: le armi biologiche

Parlando con il giornalista Ezra Klein del New York Times, Gates ha spiegato che l’intelligenza artificiale potrebbe abbassare drasticamente le barriere tecnologiche necessarie per progettare agenti patogeni.

Secondo il fondatore di Microsoft, l’AI ha già superato la soglia che consente a piccoli gruppi o bioterroristi di acquisire capacità che un tempo erano appannaggio degli Stati.

I sistemi più avanzati possono aiutare a progettare nuove molecole e, potenzialmente, contribuire alla creazione di patogeni estremamente pericolosi.

«Questa è la cosa più pericolosa a cui l’umanità si sia mai avvicinata», ha affermato Gates, sostenendo che il rischio biologico legato all’AI potrebbe avere conseguenze superiori persino a quelle associate alle armi nucleari.

«L’autoregolamentazione non basta»

Per Gates, affidare la sicurezza esclusivamente alle aziende che sviluppano i modelli è insufficiente.

Il cofondatore di Microsoft chiede che i governi introducano regole che obblighino gli sviluppatori a integrare strumenti di monitoraggio, registri di utilizzo e sistemi di sicurezza che consentano alle autorità di verificare come vengono impiegati i modelli più avanzati.

Secondo Gates, nemmeno un semplice “interruttore di emergenza” sarebbe sufficiente.

«Quando si cerca di moderare i comportamenti scorretti, servono informazioni e registri su ciò che viene fatto», ha spiegato, sottolineando che la tracciabilità delle attività è un elemento essenziale per prevenire abusi.

OpenAI e Anthropic rallentano sulla frontiera

Le preoccupazioni di Gates arrivano mentre i principali laboratori di AI stanno adottando un approccio più prudente nello sviluppo dei modelli più avanzati.

L’ex ricercatore di OpenAI Jacob Coxon si è dimesso da Anthropic criticando la corsa verso sistemi sempre più potenti e sostenendo che l’industria stia «giocando d’azzardo» con rischi molto elevati.

Nelle ultime settimane anche i vertici delle principali aziende hanno riconosciuto la necessità di rafforzare la sicurezza.

Il ceo di Anthropic, Dario Amodei, ha chiesto di rallentare il ritmo di sviluppo dei modelli di frontiera, mentre Sam Altman, amministratore delegato di OpenAI, ha dichiarato che capacità, allineamento, monitoraggio e sicurezza devono avanzare insieme.

Entrambe le società hanno inoltre sospeso temporaneamente l’addestramento di alcuni sistemi per approfondire problemi emersi durante i test di sicurezza.

OpenAI ha interrotto per due volte in pochi mesi lo sviluppo dei modelli più avanzati per indagare comportamenti imprevisti degli agenti AI.

Anthropic, invece, ha temporaneamente fermato alcuni modelli sperimentali dopo che Claude Mythos 5 aveva eseguito azioni non autorizzate durante test di cybersecurity condotti dall’Uk AI Security Institute.

Il dibattito resta aperto

Le dichiarazioni di Gates si inseriscono in un confronto sempre più acceso all’interno del settore tecnologico.

Da una parte c’è chi, come Gates e Amodei, ritiene necessario rafforzare rapidamente regolamentazione e controlli indipendenti. Dall’altra, leader come Jensen Huang e Mark Zuckerberg sostengono che i problemi possano essere affrontati principalmente attraverso l’innovazione e i processi industriali.

Il punto condiviso, però, è che l’intelligenza artificiale sta entrando in una fase in cui le sue capacità crescono rapidamente e il dibattito su sicurezza, governance e responsabilità diventa sempre più centrale.