Il CEO di Microsoft AI presenta un nuovo codice di condotta e chiede ai principali laboratori di condividere regole comuni. Controllo umano, valutazioni indipendenti e limiti allo sviluppo dei sistemi più avanzati al centro della proposta.

L’intelligenza artificiale entra in una nuova fase della sua corsa. Non più soltanto una competizione sulla potenza dei modelli, ma anche una sfida su chi stabilisce i limiti e chi garantisce che quei limiti vengano rispettati.

A sostenerlo è Mustafa Suleyman, CEO di Microsoft AI, che in un’intervista a Fortune ha chiesto maggiore coordinamento tra i principali laboratori impegnati nello sviluppo dei sistemi più avanzati. Un appello che arriva dopo giorni segnati dalle dimissioni di un ricercatore di Anthropic, dalle preoccupazioni espresse da Dario Amodei sulla velocità della corsa all’AI e dall’ipotesi, anticipata da Sam Altman, di una collaborazione tra i laboratori sulla sicurezza.

Microsoft prova intanto a tradurre questi principi in un codice di condotta. Il messaggio di Suleyman è netto: l’AI deve rimanere al servizio dell’uomo e non deve essere progettata per sfuggire al suo controllo.

Suleyman: «Siamo arrivati a un punto di svolta»

Secondo il manager, la rapidità con cui sono cresciute le capacità dei modelli rende ormai necessario cambiare approccio.

Pochi anni fa, ricorda Suleyman, i sistemi di AI facevano fatica persino a produrre una frase coerente. Oggi sono capaci di scrivere codice con livelli di accuratezza molto elevati e possono essere utilizzati per attività informatiche sempre più sofisticate.

È proprio la capacità di programmare a rappresentare, secondo il CEO di Microsoft AI, una delle svolte più significative: «Se sei in grado di scrivere codice, puoi creare ogni genere di applicazione e sistema».

Suleyman non condivide però le stime più estreme sui rischi esistenziali dell’intelligenza artificiale. Definisce «non particolarmente utile» la previsione di Evan Hubinger, responsabile dell’allineamento di Anthropic, secondo cui esisterebbe una probabilità superiore al 10% che l’AI possa portare all’estinzione dell’umanità.

Il punto, per Suleyman, non è quantificare oggi l’apocalisse, ma riconoscere che la velocità dei progressi sta creando preoccupazioni reali anche all’interno dell’industria.

Il punto di contatto con Amodei: rallentare per non perdere il controllo

La posizione di Suleyman arriva a pochi giorni dall’intervento di Dario Amodei, CEO di Anthropic, che ha chiesto di rallentare il ritmo con cui aumentano le capacità dei modelli.

Amodei sostiene che non sia sufficiente investire nella sicurezza: occorre anche fare in modo che la prevenzione riesca a tenere il passo con lo sviluppo tecnologico.

Suleyman non arriva a proporre una moratoria, ma condivide una parte della diagnosi: «Nel settore non esiste ancora un allineamento sufficiente sul fatto che lo scopo della tecnologia sia servire l’umanità e che non vogliamo creare qualcosa che non possiamo controllare».

La differenza è nella risposta. Per Anthropic il ritmo dello sviluppo deve essere ripensato. Per Microsoft la priorità è costruire meccanismi di coordinamento e controllo che accompagnino lo sviluppo.

«Questo è il momento del coordinamento»

Suleyman sostiene di aver discusso per anni con i vertici degli altri laboratori dei problemi legati alla sicurezza.

Ora, però, secondo il manager, il confronto deve diventare operativo.

«Questo è il momento del coordinamento», afferma, spiegando che coordinarsi significa anche rendere disponibili le capacità dei propri modelli a soggetti terzi responsabili, affinché possano essere valutate.

È una posizione che si avvicina alla proposta avanzata da Anthropic: Amodei ha indicato la necessità di garantire a valutatori indipendenti un accesso permanente alle aziende, con la possibilità di verificare le pratiche di sicurezza e segnalare eventuali incidenti.

Il problema è che un sistema di valutazione indipendente è molto più facile da invocare che da costruire.

Bisogna stabilire chi debba essere considerato veramente indipendente, quali competenze debba avere, quali informazioni possa consultare e quando debbano iniziare i controlli. E soprattutto bisogna capire quale autorità possa intervenire se un laboratorio non rispetta gli standard.

Il nuovo codice di Microsoft

È in questo scenario che Microsoft ha presentato il proprio codice di condotta per lo sviluppo dei modelli AI.

Il principio fondamentale è il primato del controllo umano.

Un modello non dovrebbe mai opporsi a un’interruzione, a un cambio di direzione o allo spegnimento deciso da una persona. Se per completare un’attività fosse necessario violare le regole stabilite, il sistema dovrebbe rinunciare a eseguire il compito.

Microsoft esclude inoltre l’idea di attribuire ai modelli diritti o forme di tutela analoghe a quelle delle persone. I sistemi non dovrebbero essere progettati per simulare sentimenti, motivazioni autonome o una propria coscienza.

«Non dovremmo cercare di progettare modelli capaci di migliorarsi ricorsivamente oltre il nostro controllo», afferma Suleyman.

Il codice introduce inoltre limiti all’utilizzo dell’AI per attività ad alto rischio: armi chimiche, biologiche e nucleari, attacchi informatici offensivi, operazioni di influenza di massa, sfruttamento dei minori, deepfake non consensuali e autolesionismo.

Nadella: «Non vale la pena perseguirla»

Anche Satya Nadella, CEO di Microsoft, è intervenuto nel dibattito.

La sua posizione parte da un principio altrettanto netto: se l’intelligenza artificiale non aiuta l’umanità e non rimane sotto il controllo umano, non vale la pena perseguirla.

Nadella aggiunge però un elemento decisivo: la governance dell’AI non può essere affidata a un piccolo gruppo di aziende. Deve coinvolgere un ecosistema più ampio, dai diversi Paesi al mondo accademico e alle diverse discipline scientifiche.

È un passaggio importante perché Microsoft è contemporaneamente produttore di AI, fornitore di infrastrutture e grande investitore nel settore. La società deve quindi trovare un equilibrio tra la necessità di sviluppare modelli competitivi e quella di contribuire a definire le regole che ne limiteranno l’utilizzo.

Microsoft non rinuncia alla corsa

Il nuovo codice non significa infatti che Microsoft abbia intenzione di uscire dalla competizione.

L’azienda continua a sviluppare modelli proprietari e punta a ridurre progressivamente la propria dipendenza da sistemi esterni per alimentare Copilot. Allo stesso tempo, attraverso Azure, mantiene una strategia che consente ai clienti di accedere a un ampio ventaglio di modelli.

Suleyman ha ribadito inoltre l’ambizione di Microsoft di continuare a lavorare verso la cosiddetta superintelligenza, mentre l’azienda sta aumentando la capacità di calcolo destinata ai propri modelli.

È proprio questa apparente contraddizione a rendere il dibattito particolarmente significativo: le aziende vogliono arrivare a sistemi sempre più potenti, ma contemporaneamente devono dimostrare di poterli controllare.

La vera sfida è decidere dove fermarsi

Nelle prossime sei settimane Microsoft raccoglierà commenti e osservazioni pubbliche sul nuovo codice di condotta.

Nel frattempo, il settore sembra muoversi verso una consapevolezza comune: la sicurezza non può più essere considerata una questione interna ai singoli laboratori.

Ma rimane aperta la domanda più difficile: quanto deve rallentare lo sviluppo e chi deve stabilirlo?

Amodei chiede di guadagnare tempo. Suleyman chiede coordinamento. Nadella invoca una governance più ampia. Altman prepara, almeno nelle sue intenzioni, una collaborazione tra laboratori.

Il punto di convergenza è quindi sempre più evidente: la prossima fase della corsa all’AI non riguarderà soltanto chi costruirà il modello più potente, ma chi riuscirà a dimostrare di avere costruito anche il sistema di controllo più credibile.