Il commissario Onu per i diritti umani Volker Türk mette in guardia dai rischi dell’AI agentiva. Sam Altman individua invece due minacce per il futuro della tecnologia: perdita di controllo e concentrazione del potere
L’intelligenza artificiale entra in una fase sempre più avanzata e, con la crescita delle capacità dei modelli, aumentano anche i timori sulle conseguenze di un eventuale perdita di controllo. A lanciare un nuovo allarme è l’Onu, mentre dal mondo dell’industria arriva una posizione altrettanto netta da Sam Altman, Ceo di OpenAI.
Il punto di contatto tra le due posizioni è una domanda sempre più difficile da eludere: quanto potere siamo disposti a lasciare a sistemi di intelligenza artificiale sempre più autonomi?
Onu: «Rischi esistenziali per ogni aspetto delle nostre vite»
Volker Türk, alto commissario delle Nazioni Unite per i diritti umani, ha inviato una lettera agli Stati e alle principali aziende mondiali impegnate nello sviluppo dell’intelligenza artificiale.
Il monito riguarda soprattutto l’AI agentiva, cioè sistemi capaci di svolgere autonomamente una sequenza di attività e prendere decisioni per raggiungere un obiettivo.
«I fallimenti che coinvolgono sistemi di intelligenza artificiale agentiva, per non parlare di sistemi deliberatamente progettati in tal senso, potrebbero paralizzare i servizi essenziali, frammentare le comunicazioni, destabilizzare le infrastrutture critiche e colpire al cuore stesso delle istituzioni democratiche», ha avvertito Türk.
Secondo il commissario, il mondo si trova «alla vigilia di un cambiamento irreversibile», destinato a coinvolgere non soltanto la generazione attuale ma anche quelle future.
La sua conclusione è particolarmente severa: la corsa verso sistemi di AI sempre più potenti rappresenta un salto verso rischi esistenziali che possono riguardare ogni aspetto della vita.
Altman: «Il rischio è perdere il controllo»
Sul tema è intervenuto anche Sam Altman, Ceo di OpenAI, indicando in un post su X due possibili traiettorie negative per l’evoluzione dell’intelligenza artificiale.
La prima è la perdita di controllo sul futuro dell’AI, che Altman definisce «inaccettabile».
L’obiettivo, sostiene il Ceo di OpenAI, deve essere quello di fare in modo che l’intelligenza artificiale «serva sempre le persone». Per riuscirci, le tecniche di allineamento e sicurezza dovrebbero precedere l’evoluzione delle capacità dei modelli.
È un punto particolarmente rilevante perché sposta la discussione dalla semplice capacità dei sistemi alla loro governabilità: non basta costruire modelli più potenti, bisogna anche essere certi di poterli mantenere sotto controllo.
Il secondo rischio: troppo potere nelle mani di pochi
La seconda minaccia indicata da Altman è la concentrazione del potere.
Il rischio, secondo il Ceo di OpenAI, è che il controllo sulle tecnologie più avanzate finisca nelle mani di «una singola persona o azienda», permettendo a chi lo detiene di «imporre la propria visione del mondo a tutti gli altri».
Le conseguenze, osserva Altman, potrebbero essere «distopiche».
Il problema non riguarda soltanto le aziende. Anche un singolo Paese potrebbe acquisire un vantaggio eccessivo grazie all’AI, mentre un laboratorio tecnologico potrebbe arrivare a concentrare una quantità di potere difficilmente controllabile.
La sfida non è solo tecnologica
Le dichiarazioni di Türk e Altman convergono quindi su un punto fondamentale: la sicurezza dell’AI non può essere considerata soltanto una questione tecnica.
Da una parte ci sono i rischi legati all’autonomia dei sistemi e alla possibilità che un comportamento imprevisto possa avere conseguenze sulle infrastrutture, sui servizi essenziali o sulle istituzioni. Dall’altra c’è il rischio politico ed economico di una concentrazione senza precedenti di capacità tecnologiche e potere decisionale.
Altman sostiene che evitare entrambe le minacce richieda «una sottile via di mezzo»: sviluppare sistemi sempre più capaci senza permettere che il loro controllo sfugga agli esseri umani o si concentri eccessivamente.
«Le aziende americane devono agire in modo responsabile»
Il messaggio del Ceo di OpenAI è rivolto anche all’industria americana dell’intelligenza artificiale.
«Il mondo merita la certezza che le aziende americane che sviluppano IA sempre più capaci agiranno in modo responsabile», ha scritto Altman, sottolineando che la questione è ancora più importante mentre la traiettoria del progresso tecnologico accelera.
«Ogni laboratorio di frontiera deve mantenere questa promessa», ha aggiunto.
È un passaggio che fotografa il nuovo paradosso dell’AI: le aziende devono contemporaneamente accelerare lo sviluppo dei modelli per mantenere il vantaggio competitivo e dimostrare di essere in grado di governare una tecnologia che diventa ogni giorno più potente.
La questione, dunque, non è più soltanto quanto l’intelligenza artificiale possa fare. È chi decide cosa può fare, chi ne controlla l’evoluzione e soprattutto chi controlla chi.
