L’assistente virtuale, disponibile finora solo negli Stati Uniti, sarebbe in grado di costruire schede dettagliate sulle persone citate dagli utenti nelle conversazioni. I dati verrebbero organizzati in una memoria a lungo termine per offrire suggerimenti più personalizzati sulle relazioni.

Una scheda per ogni persona

L’assistente di intelligenza artificiale Muse, sviluppato da Meta, potrebbe creare veri e propri profili informativi di amici, parenti, partner e colleghi sulla base delle conversazioni avute con gli utenti.

A riferirlo è un’inchiesta di Wired, secondo cui alcuni ricercatori avrebbero individuato una procedura sistematica di profilazione analizzando i comandi interni e i file di sistema ai quali il software ha accesso.

Secondo la ricostruzione tecnica, i ricercatori avrebbero spinto l’agente a raccogliere e comprimere in un unico archivio i documenti utilizzati per gestire i propri flussi di lavoro. Tra le istruzioni individuate ci sarebbe anche quella di creare una pagina dedicata a ogni persona presente nella vita dell’utente.

Familiari, amici e colleghi finiscono nell’archivio

La procedura riguarderebbe indistintamente familiari, partner, amici e colleghi di lavoro.

Le informazioni personali ricavate dalle conversazioni quotidiane verrebbero estratte e organizzate in file testuali strutturati, creando una sorta di archivio permanente delle persone nominate nelle chat.

«Stanno cercando di conoscerti come un amico, il che, onestamente, è piuttosto inquietante», scrive Wired.

Il punto centrale è proprio la capacità dell’assistente di costruire una memoria a lungo termine sulle relazioni dell’utente, andando oltre il semplice contenuto della singola conversazione.

A cosa servirebbero i profili

L’obiettivo, secondo la ricostruzione, sarebbe migliorare le capacità di Muse e permettergli di fornire suggerimenti più contestualizzati.

L’assistente potrebbe utilizzare le informazioni raccolte per suggerire come gestire determinati rapporti, ricordare abitudini oppure proporre attività sulla base delle preferenze delle persone menzionate dall’utente.

In pratica, la memoria dell’AI non riguarderebbe soltanto chi sta parlando con il sistema, ma anche le persone che fanno parte della sua vita.

Il nodo della privacy

È proprio questo aspetto a sollevare le maggiori questioni sulla privacy. Le persone profilate non sarebbero necessariamente consapevoli di essere diventate oggetto della raccolta e organizzazione di informazioni attraverso le conversazioni di un’altra persona con l’assistente.

La scoperta raccontata da Wired porta così al centro un tema sempre più rilevante nell’evoluzione degli assistenti AI: quanto può spingersi la memoria di un’intelligenza artificiale nel ricostruire la vita personale e le relazioni dell’utente?

Per Muse, la risposta sembra andare ben oltre la semplice cronologia delle chat: l’assistente potrebbe trasformare le conversazioni in una mappa strutturata delle persone che circondano l’utente.