Il responsabile dei diritti umani Volker Türk chiede a Stati e aziende di agire subito per mantenere sotto controllo i sistemi di intelligenza artificiale più avanzati. L’appello arriva mentre cresce il dibattito sui rischi di una tecnologia che potrebbe sfuggire al controllo umano

L’intelligenza artificiale è arrivata a un punto in cui non basta più discutere delle sue potenzialità: bisogna stabilire chi e come debba governarne lo sviluppo. È questo il messaggio lanciato dalle Nazioni Unite, mentre aumentano le preoccupazioni sui rischi associati ai sistemi di IA sempre più potenti.

Volker Türk, responsabile delle Nazioni Unite per i diritti umani, ha chiesto a governi e aziende all’avanguardia nel settore di intervenire con urgenza per tenere sotto controllo una tecnologia che, secondo l’Onu, comporta «rischi senza precedenti».

Türk: «Siamo sull’orlo di un cambiamento irreversibile»

In una lettera indirizzata agli Stati e agli sviluppatori di IA e condivisa con i media, Türk ha avvertito che il mondo si trova «sull’orlo di un cambiamento irreversibile, che non riguarda solo noi ma le future generazioni dell’umanità».

Il problema, secondo il responsabile Onu, è la velocità con cui procede la corsa tecnologica.

«L’attuale corsa verso un’IA sempre più potente rappresenta un salto di qualità verso maggiori rischi esistenziali per ogni aspetto delle nostre vite», ha scritto.

Non si tratta quindi soltanto di prevedere gli effetti dell’IA sul mercato del lavoro o sull’economia. La preoccupazione riguarda anche la possibilità che sistemi sempre più autonomi possano incidere su infrastrutture, istituzioni e diritti fondamentali.

Il caso Anthropic riaccende il dibattito

L’appello delle Nazioni Unite arriva mentre il settore è attraversato da un nuovo confronto sui rischi dell’IA cosiddetta superintelligente.

Il dibattito è tornato al centro dell’attenzione dopo le dimissioni pubbliche di un ricercatore di Anthropic, che ha lasciato l’azienda per i timori legati alla possibilità che la tecnologia possa sfuggire al controllo umano.

Un altro dipendente della società ha invece dichiarato pubblicamente: «Crediamo davvero sinceramente che l’IA possa uccidere tutti gli esseri umani», indicando una probabilità superiore al 10% entro il prossimo decennio.

Una previsione estrema che ha contribuito ad alimentare il confronto internazionale su quanto sia concreto il cosiddetto rischio esistenziale dell’intelligenza artificiale.

Anthropic propone di rallentare lo sviluppo

Nel pieno delle polemiche, il Ceo di Anthropic, Dario Amodei, ha invitato le aziende del settore a «modificare il ritmo di avanzamento» dell’intelligenza artificiale.

L’idea è quella di coordinare un rallentamento nello sviluppo dei sistemi più avanzati, per creare maggiore spazio per sicurezza, valutazione dei rischi e meccanismi di controllo.

Una posizione che ha trovato pubblicamente il sostegno di due figure di primo piano dell’industria: Elon Musk, di xAI, e Sam Altman, Ceo di OpenAI.

L’Onu: «Dipendiamo da poche aziende»

È proprio la concentrazione del potere tecnologico a preoccupare particolarmente Türk.

«Nel mondo di oggi, dipendiamo quasi interamente da un numero ristretto di potenti aziende affinché compiano le scelte giuste sullo sviluppo dell’IA per tutta l’umanità», ha sottolineato.

Una situazione che, secondo l’Onu, rende insufficiente affidarsi esclusivamente all’autoregolamentazione delle aziende.

Per questo Türk chiede a Stati e imprese di mobilitarsi con urgenza attraverso forum multilaterali, con l’obiettivo di definire regole comuni per i modelli di IA più avanzati, facendo riferimento al diritto internazionale sui diritti umani.

La partita è ormai politica, non solo tecnologica

Il punto centrale dell’appello dell’Onu è quindi il passaggio da una fase in cui l’IA veniva considerata soprattutto una questione di innovazione a una fase in cui la sua governance diventa una questione politica globale.

La domanda non è più soltanto quanto velocemente possano diventare più potenti i modelli. È se governi e istituzioni riusciranno a costruire regole e controlli alla stessa velocità con cui procede il loro sviluppo.

Ed è proprio questo il paradosso che l’industria deve ora affrontare: le aziende più avanzate chiedono di continuare a innovare per non perdere la corsa tecnologica, ma sono le stesse aziende a riconoscere che, oltre una certa soglia, la velocità senza adeguati meccanismi di sicurezza potrebbe diventare un rischio in sé.