Senza inclusione nei processi decisionali, i sistemi di AI rischiano di amplificare discriminazioni già esistenti

Siamo una donna nera, Jameila “Meme” Styles, che ha costruito la propria carriera nel campo dell’advocacy basata sui dati, e un manager del settore tecnologico, Chris Hyams, alla guida della piattaforma globale di recruiting Indeed. Proveniamo da percorsi professionali molto diversi, ma abbiamo osservato lo stesso fenomeno: cosa accade quando una tecnologia potente come l’intelligenza artificiale incontra disuguaglianze profonde già presenti nella società.

Abbiamo anche visto cosa può accadere quando persone con esperienze, competenze e prospettive diverse lavorano insieme per affrontare queste sfide.

Un’intelligenza artificiale capace di beneficiare davvero tutta l’umanità non può essere costruita da una sola comunità o da un singolo settore. Richiede collaborazione tra mondi diversi: ricercatori, imprese, istituzioni e comunità direttamente coinvolte.

L’AI sta trasformando il mondo, ma non è neutrale

L’intelligenza artificiale sta già rivoluzionando campi come:

• biologia

• medicina

• fisica

• economia della conoscenza.

I guadagni di produttività che questa tecnologia promette sono potenzialmente tra i più grandi della storia umana.

Tuttavia, l’AI non è neutrale. I sistemi algoritmici utilizzati in settori come:

• assunzioni e mercato del lavoro

• sanità

• credito e finanza

• giustizia penale

stanno già mostrando la tendenza a riprodurre e amplificare disuguaglianze sociali esistenti.

Tra gli esempi più discussi ci sono:

• strumenti di screening dei curriculum che penalizzano candidati provenienti dalle Historically Black Colleges and Universities (HBCU)

• sistemi di polizia predittiva addestrati su dati influenzati da decenni di controlli discriminatori

• algoritmi di valutazione del rischio utilizzati per decidere prestiti, assicurazioni o accesso alle cure.

Non si tratta semplicemente di errori tecnici. Sono conseguenze prevedibili quando sistemi complessi vengono progettati senza la partecipazione delle comunità più colpite dai loro effetti.

L’AI è la grande sfida dei diritti civili del XXI secolo

L’intelligenza artificiale rappresenta probabilmente la sfida più importante per i diritti civili e umani della nostra epoca.

Potrebbe diventare una forza capace di generare un’enorme fioritura economica e scientifica, oppure consolidare gerarchie sociali già esistenti rendendole ancora più difficili da cambiare.

La direzione che prenderà dipenderà dalle persone che progettano e governano questi sistemi.

Tutti devono avere voce nello sviluppo dell’AI

L’AI non è un’entità autonoma: è uno strumento progettato da esseri umani con obiettivi specifici.

La storia della tecnologia mostra cosa accade quando un gruppo ristretto e omogeneo controlla lo sviluppo di innovazioni radicali: spesso i benefici si concentrano in poche mani, mentre i costi sociali ricadono su molti altri.

Per questo motivo istituzioni come le Historically Black Colleges and Universities e altre organizzazioni che rappresentano la cosiddetta “maggioranza globale” non possono essere coinvolte solo in fase di consultazione.

Devono partecipare direttamente alla progettazione e alla governance dell’AI.

Non si tratta di un gesto simbolico di inclusione: è una condizione necessaria per costruire sistemi più affidabili e innovativi. Numerose ricerche dimostrano infatti che team più diversificati producono tecnologie più robuste e più giuste.

Non solo partecipazione: serve anche accesso al capitale

La rappresentanza nei processi decisionali non basta. Le comunità storicamente escluse devono avere anche accesso alla proprietà economica della nuova economia dell’AI.

Questo significa:

• investimenti in formazione

• supporto all’imprenditorialità tecnologica

• partecipazione alle start-up e alle imprese dell’intelligenza artificiale.

L’economia dell’AI sta cambiando rapidamente: i costi di calcolo diminuiscono, la concorrenza aumenta e nuovi attori possono emergere molto velocemente.

I laureati delle HBCU e di istituzioni simili rappresentano una nuova generazione di innovatori pronti a contribuire allo sviluppo di queste tecnologie.

Che tipo di futuro vogliamo costruire con l’AI?

Molti laboratori e aziende tecnologiche parlano di “fioritura umana” come obiettivo dell’intelligenza artificiale. Tuttavia, raramente viene spiegato in modo concreto cosa significhi davvero.

Le comunità che hanno affrontato storicamente discriminazioni hanno spesso riflettuto con maggiore profondità su questa domanda.

Dal confronto con studenti e docenti delle HBCU emergono visioni molto chiare su ciò che l’AI dovrebbe diventare — e su ciò che non deve mai diventare.

Oggi molti sistemi di AI mostrano un altissimo quoziente intellettivo ma un’intelligenza emotiva ancora limitata. Sono estremamente sicuri nelle loro risposte algoritmiche, ma faticano a comprendere la complessità delle esperienze umane.

Un’intelligenza artificiale realmente equa dovrebbe proteggere la diversità culturale, sociale e individuale, invece di ridurla a semplici statistiche.

Una sfida globale che richiede collaborazione

Se l’intelligenza artificiale sarà anche solo una frazione potente di quanto molti ricercatori immaginano, garantire che serva davvero tutta l’umanità sarà una sfida enorme.

Nessuna singola azienda, governo o comunità può affrontarla da sola.

Serve una collaborazione globale senza precedenti tra:

• istituzioni accademiche

• imprese tecnologiche

• governi

• comunità locali.

Le HBCU e le comunità che rappresentano hanno sempre prodotto inventori, scienziati, tecnologi e imprenditori. Il momento attuale deve riconoscere quella tradizione e costruire su di essa.

Perché nel futuro dell’intelligenza artificiale non possiamo limitarci a essere passeggeri.

Dobbiamo contribuire a plasmare l’AI tanto quanto essa sta plasmando noi.