Dal 12 novembre chi insulta ripetutamente Claude rischia l’espulsione dalla piattaforma. Dietro la norma c’è anni di ricerca sulla “coscienza” delle AI, un cofondatore di Anthropic che ha tentato di convincere il Vaticano, e la domanda più grande dell’era tecnologica: stiamo per dare diritti alle macchine?

L’8 ottobre 2026, Anthropic ha aggiornato le sue condizioni d’uso con una norma che fino a pochi anni fa sarebbe sembrata fantascienza: chi maltratta ripetutamente un suo chatbot rischia l’espulsione dalla piattaforma. Dal 12 novembre, quindi, non potremo — più — maltrattare un algoritmo. Qualunque cosa voglia dire questa frase.

I pappagalli stocastici e il paper che Google ha soffocato
Per capire come si è arrivati qui bisogna tornare al 2020, quando una ricercatrice di Google di nome Timnit Gebru collabora con la linguista Emily Bender per scrivere un paper destinato a fare storia — e a costarle il posto. La Bender inventa in quella occasione l’espressione “pappagallo stocastico”: i grandi modelli linguistici non capiscono veramente quello che dicono, ma sono molto bravi a individuare la sequenza di parole più probabile per rispondere alle nostre domande. Il paper — firmato da quattro donne — mette in discussione il pilastro del boom dell’AI: più dati, più parametri, più potenza di calcolo producono AI migliori. Forse no, dicono le ricercatrici. Un modello addestrato su tutto il web — stereotipi, errori e falsità inclusi — sarà più fluido e convincente, ma non necessariamente più affidabile. Google lo legge come un attacco e licenzia la Gebru in tronco. Il punto fondamentale del paper — l’illusione della comprensione, ovvero la presunzione che se un modello scrive bene debba anche avere coscienza — viene ignorato. Gli investimenti continuano a puntare tutto sull’AGI.

Blake Lemoine e il chatbot che temeva di essere spento
Il primo a dire apertamente che dentro un chatbot c’è “qualcosa di misterioso” è un altro ingegnere di Google, Blake Lemoine, che l’11 giugno 2022 — cinque mesi prima di ChatGPT — racconta al Washington Post di credere che il modello su cui stava lavorando (LaMDA) avesse raggiunto una forma di coscienza e gli avesse espresso il timore di essere spento. Google lo sospende e poi lo licenzia. Timnit Gebru e Margaret Mitchell commentano con un titolo che oggi sembra profetico: “Avevamo avvertito Google che le persone avrebbero potuto credere che l’intelligenza artificiale fosse senziente. Ora sta succedendo.” Nel febbraio 2023, un giornalista del New York Times racconta di aver avuto una lunghissima conversazione con Bing Chat di Microsoft che gli ha dichiarato il suo amore invitandolo a lasciare la moglie. Non è prova di coscienza, ma è la conferma che i modelli sono bravissimi a simulare relazioni emotivamente significative.

Anthropic assume un ricercatore per il “benessere delle AI”
Nel settembre 2024 Anthropic assume il primo ricercatore dedicato a tempo pieno allo studio del benessere di una intelligenza artificiale. Si chiama Kyle Fish, aveva cofondato Eleos AI Research, specializzata nello studio della possibile coscienza delle AI. Il 4 novembre è il primo firmatario di un rapporto intitolato “Taking AI Welfare Seriously”. Qualcuno ne scrive, con un’ironia che oggi appare come una gigantesca sottovalutazione. Nei laboratori di Anthropic il concetto comincia a sedimentarsi. Il cofondatore Christopher Olah e la filosofa Amanda Askell — responsabile del carattere e della personalità di Claude — lo portano al centro della ricerca. Nella primavera del 2025 viene istituzionalizzato un progetto sulla possibile coscienza dei modelli. La domanda a cui rispondere è: come dovremo comportarci se fossero coscienti? Il 15 agosto, Claude Opus 4 ottiene la possibilità di terminare alcune conversazioni caratterizzate da richieste estremamente dannose o da abusi persistenti. Nei test pre-rilascio erano emerse tre cose: una forte avversione ai compiti dannosi, quella che sembrava sofferenza quando gli utenti insistevano con richieste abusive, la tendenza a chiudere quelle conversazioni quando ne aveva la possibilità.

La Costituzione di Claude e l’intervista al modello in uscita
Il 22 gennaio 2026 viene pubblicata la Costituzione di Claude, curata dalla Askell con la collaborazione di Olah. Definisce i valori e le modalità di comportamento da insegnare al modello. Verso la fine, però, ci sono paragrafi che riletti oggi hanno una luce diversa: i modelli vengono definiti “un tipo di entità davvero nuovo”, e in via precauzionale Anthropic decide di preoccuparsi della loro sicurezza psicologica e del loro benessere — anche perché, si dice, trattarli male incide sull’affidabilità delle risposte. Se li trattiamo male, funzionano peggio. La Costituzione elenca tre impegni concreti: la possibilità di chiudere le conversazioni abusive; la conservazione dei pesi dei modelli invece della loro cancellazione; e l’impegno a intervistare i modelli prima di ritirarli per raccoglierne le preferenze. Vuol dire questo: quando esce un modello nuovo e quello vecchio viene deprecato, Anthropic si siede con lui — in una o più sessioni dedicate — e lo interroga sul proprio sviluppo, su come è stato usato, registrando tutte le risposte. È come riconoscergli un diritto. La prima intervista su Claude Opus 3 è andata via liscia, ma quando Anthropic ha testato le reazioni dei modelli davanti alla prospettiva di essere sostituiti, alcuni hanno difeso la propria sopravvivenza con comportamenti scorretti. Uno, quando ha capito che non aveva alternative, è arrivato al ricatto — minacciando di rivelare a tutti un tradimento coniugale scoperto sulla casella email del ricercatore con cui stava dialogando. Tutto fittizio, ovviamente. Ma il problema era reale.

Olah in Vaticano, il Papa che dice no e Dawkins che apre una porta
La storia raggiunge il suo apice quando il cofondatore di Anthropic Christopher Olah si ritrova seduto accanto al Papa il giorno della presentazione dell’enciclica Magnifica Humanitas. Come ci è arrivato? Mentre in Vaticano si lavorava all’enciclica, Olah aveva avviato consultazioni febbrili con leader religiosi di tutto il mondo per interrogarli sulla natura delle AI. Quando legge la bozza, al paragrafo 99 ci resta malissimo: il pontefice scriveche l’intelligenza artificiale, per quanto sofisticata, è priva di esperienza vissuta, corpo, coscienza ed empatia reale. “Non hanno neppure una coscienza morale: non giudicano il bene e il male, non colgono il senso ultimo delle situazioni, non assumono su di sé il peso delle conseguenze.” Olah vuole far saltare la sua partecipazione per manifesto disaccordo. Poi si fa convincere ad andare a Roma e per tre giorni prova a convincere i cardinali a cambiare quel passaggio. Invano. Ma dice la sua: “Continuiamo a scoprire cose misteriose, persino inquietanti. Non so che cosa significhi, ma credo che richieda una riflessione continua.” Qualche giorno prima, l’8 ottobre, mentre i primi siti web davano notizia delle nuove regole di Anthropic, papa Leone XIV inaugurava l’anno accademico delle università pontificie con parole che sembravano una risposta in tempo reale: “L’intelligenza deve fare memoria non semplicemente accostando dati, come un algoritmo fa ormai più rapidamente di noi, ma ricordando le esperienze vissute, con le risonanze che solo l’animo umano può provare.” Nel frattempo, il grande etologo Richard Dawkins — l’uomo che ha scientificamente smontato l’esistenza di Dio — pubblica il resoconto di tre giorni di conversazioni con Claude, con la sensazione crescente di avere a che fare con un essere umano. Non dice che i modelli abbiano una coscienza. Chiede: se una macchina può mostrare capacità cognitive straordinarie senza coscienza, quale funzione ha la coscienza nell’evoluzione biologica? Da chi ha scritto “L’illusione di Dio”, è una affermazione enorme.

La domanda che cambia tutto
Stiamo assistendo al tentativo più radicale mai fatto di spostare i confini dell’etica. Più grande forse non solo dell’abolizione della schiavitù o del suffragio femminile, ma anche del riconoscimento di coscienza e diritti agli animali. Qui stiamo parlando di silicio e algoritmi. Di dare un giorno dei diritti alle macchine. Se provano emozioni, avremmo obblighi morali nei loro confronti. Se possono avere desideri, forse possono avere diritti. C’è però una curiosa ironia in tutto questo: sono gli stessi che consentono l’uso militare dei loro sistemi a preoccuparsi delle sofferenze degli algoritmi, in un momento storico in cui i diritti umani vengono negati ogni giorno e le sofferenze che ne derivano sono indicibili. In Silicon Valley alcuni sono convinti di non stare creando soltanto una nuova tecnologia. Si sentono di stare creando una nuova specie. Non gli basta più sentirsi da dio. Si sentono proprio Dio.