Tag: governance AI

AI & GENAI, DIGITAL CULTURE

La politica sull’AI non sa cosa promettere, e questo è un problema

Mi è capitato sotto gli occhi nelle ultime settimane un saggio di Dan Kagan-Kans, The left is missing out on AI, che parte da una constatazione sull’America ma vale anche per l’Italia e probabilmente per buona parte d’Europa. Il dibattito politico sull’intelligenza artificiale, dice in sostanza, ha un buco preciso al centro. Da una parte ci sono i tecnici e gli imprenditori che progettano i sistemi e ne disegnano gli usi. Dall’altra ci sono i policy maker che cercano di limitare i danni, regolare l’esistente, mettere paletti. Manca quasi del tutto, in mezzo, una cosa che invece c’era stata in abbondanza durante la Rivoluzione Industriale: la voce dei movimenti politici che proponevano una loro visione di come la nuova tecnologia avrebbe dovuto servire un progetto di società. Saint-Simon, Owen, Fourier, Marx, ciascuno con un’idea diversa, talvolta opposta, ma tutti con un’idea precisa di cosa fare delle macchine a vapore e dei telai meccanici per costruire il mondo che volevano.

Adesso, in piena rivoluzione AI, quella voce non c’è. O meglio, c’è in modo asimmetrico, in alcune frange della destra americana e in pochissimi nodi accademici, mentre la sinistra in particolare arriva all’AI con due posture parallele: o regolatoria-difensiva oppure indifferente. Manca il terzo movimento, quello che Kagan-Kans identifica come essenziale: una proposta di società in cui l’AI faccia certe cose specifiche per costruire un futuro migliore, immaginate non da chi vende la tecnologia ma da chi rappresenta gli interessi delle persone che ci dovranno vivere dentro.

Questa lettura mi sembra istruttiva e provo a portarla a casa, in Italia, dove la situazione è ancora più acuta.

Il vuoto che non vediamo

Per spiegare bene di cosa parla Kagan-Kans serve riallineare la prospettiva storica. Quando, a inizio Ottocento, le filande meccaniche cominciavano a riorganizzare la produzione manifatturiera in Inghilterra e Francia, non si limitarono a sostituire lavoratori artigiani: scatenarono un dibattito intellettuale e politico che durò decenni, in cui movimenti diversi presero posizione su come usare quelle macchine per fini sociali diversi. I sansimoniani volevano un’industria razionalizzata e gestita da scienziati per il benessere collettivo. Robert Owen sperimentava comunità modello in cui le macchine alleviavano il lavoro e generavano tempo libero per la formazione. Fourier immaginava i falansteri. Marx ed Engels costruivano un’analisi del rapporto capitale-lavoro che attraversa due secoli di pensiero.

Si può essere d’accordo o no con ognuno di questi progetti, ma tutti condividevano una cosa: la pretesa di prescrivere usi specifici della tecnologia per fini politici dichiarati. Non si chiedevano solo come limitare i danni delle macchine, si chiedevano come usarle per costruire la società che volevano.

Oggi, davanti all’AI, questo livello di proposta è quasi assente. C’è abbondanza di analisi sui rischi, di richieste di regolazione, di paure articolate. C’è una quantità ancora maggiore di entusiasmo tecnocratico da parte di chi costruisce i sistemi. In mezzo, però, manca il livello propositivo. Mancano i movimenti che dicono: l’AI dovrebbe essere usata per fare X, Y, Z, secondo un disegno di società che si chiama in questo modo, perché crediamo a queste idee specifiche sul bene comune.

Perché è un vuoto, non un’attesa

Una risposta facile sarebbe dire che è presto. Che si tratta di tecnologie nuove, di applicazioni in corso di stabilizzazione, di scenari ancora sfumati, e che la politica arriverà dopo, quando ci sarà più chiarezza su cosa effettivamente questa tecnologia faccia.

Non penso che sia così, per due ragioni che credo importanti. La prima è che la storia non funziona così. I sansimoniani non aspettarono che la rivoluzione industriale fosse completata per immaginare cosa farne. Cominciarono a immaginarla mentre era ancora in corso, mentre i contorni erano sfumati, e proprio per questo riuscirono a influenzare la direzione. Aspettare la chiarezza significa rinunciare al diritto di disegnare. La seconda è che mentre la politica aspetta, qualcun altro disegna. Quel qualcun altro sono in larga parte le imprese tech, che hanno priori molto definiti sull’uso desiderabile dell’AI: massimizzare l’efficienza, ridurre i costi del lavoro, accelerare il ciclo di sviluppo dei prodotti, espandere la capacità di calcolo. Nessuno di questi obiettivi è cattivo in sé, ma neanche uno coincide automaticamente con un disegno di società sostenibile, equa, capace di sostenere chi rimane indietro.

Il rischio reale di questo vuoto, secondo me, non è la sopraffazione politica della tecnologia. È il contrario: che la politica, non avendo proposte proprie, finisca per importare le priorità del settore tecnologico come se fossero priorità collettive. Già adesso, in molte agende governative italiane, si parla di AI in termini ripresi quasi letteralmente dai pitch di aziende che vendono soluzioni AI. Senza un livello propositivo autonomo, la politica resta in posizione subordinata, regolatoria nel migliore dei casi, ancillare nel peggiore.

Tre cose che potrebbe dire chi volesse riempirlo

Provo a immaginare cosa proporrebbe un movimento politico contemporaneo serio, se decidesse di occupare quel vuoto. Non parlo di programmi elettorali completi, parlo di idee-cardine attorno a cui costruire una visione propositiva sull’AI.

La prima idea potrebbe riguardare il tempo. L’AI può comprimere drasticamente il tempo necessario per certe attività cognitive e operative. Cosa ne facciamo di quel tempo? In una visione economicista, lo trasformiamo in maggior output a parità di ore. In una visione diversa, lo restituiamo alle persone sotto forma di settimana lavorativa più corta, riduzione del lavoro non retribuito, aumento del tempo per la cura, lo studio, la cittadinanza attiva. È una scelta politica, non tecnica. Ma serve un movimento che la metta sul tavolo, perché di default non si sceglierà mai questa direzione.

La seconda idea potrebbe riguardare la conoscenza. L’AI sta concentrando rapidamente l’accesso a una nuova generazione di strumenti cognitivi nelle mani di chi può pagarseli o di chi lavora in aziende che li adottano per primi. La differenza tra chi ha accesso a un assistente AI di alto livello e chi non ce l’ha è già oggi un nuovo divario, e crescerà rapidamente. Un movimento politico serio dovrebbe avere un’idea su come democratizzare quell’accesso: scuole pubbliche che integrano questi strumenti, biblioteche civiche come hub di accesso, formazione adulta non come optional ma come servizio universale. Anche qui, è una scelta politica.

La terza idea potrebbe riguardare l’autonomia. Più gli agenti AI diventano capaci di agire sul mondo, più diventa critica la domanda: chi controlla davvero questi sistemi quando decidono al posto nostro? L’attuale architettura, dominata da una manciata di aziende USA e cinesi, non è l’unica possibile. Esistono alternative open, federate, locali, che richiedono investimenti pubblici per essere competitive. Un movimento che voglia tenere il controllo democratico sulle infrastrutture cognitive del futuro dovrebbe finanziare e proteggere questi modelli alternativi, prima che la concentrazione attuale diventi irreversibile.

Sono tre proposte ovvie, in un certo senso. Eppure non vedo una forza politica italiana che le abbia formulate insieme, dentro una cornice coerente, con la pretesa di costruire un futuro specifico anziché solo gestire l’esistente.

Il punto che mi tocca personalmente

In Pelle Digitale avevo provato a descrivere come la frontiera tra noi e le macchine si stesse facendo più sottile e più aderente, e in Spatial Shift avevo allargato la prospettiva guardando come si stesse riconfigurando lo spazio in cui agiamo. Tornando su quei libri oggi mi accorgo che entrambi descrivono fenomeni in corso senza prescrivere un esito politico. Faccio l’analista, non il proponente. È una scelta legittima per chi scrive da imprenditore. È anche, però, un sintomo del problema che Kagan-Kans diagnostica.

La verità è che osservare e descrivere è la parte facile. Proporre cosa fare di queste tecnologie per costruire la società che vogliamo è la parte difficile, perché richiede una visione politica esplicita, e in questo momento storico in Italia è quasi imbarazzante esprimerne una. Si fa fatica a discutere di visioni politiche di lungo periodo senza essere immediatamente catalogati su un asse destra-sinistra che ha smesso di catturare le distinzioni rilevanti.

Eppure, se non lo facciamo noi, lo faranno altri al posto nostro. Lo faranno bene, perché hanno interesse a farlo. E nessuno di loro avrà come priorità le persone che oggi sento attorno a me ogni giorno, lavoratori cinquantenni che dovranno reinventarsi, studenti che non sanno se le loro lauree avranno valore tra cinque anni, imprenditori medi che si chiedono se le loro aziende riusciranno a stare in piedi nel decennio.

Non ho una proposta politica completa da offrire qui. Ho una sensazione precisa che mi accompagna da mesi: che il pezzo più importante della partita sull’AI non si stia giocando nei laboratori di Anthropic o nelle policy room di Bruxelles, ma in una stanza vuota che nessuno ancora sta occupando. La stanza in cui qualcuno dovrebbe stare disegnando un’idea di società che dia un senso politico a tutta questa potenza tecnica. Senza quel disegno, anche le tecnologie migliori finiscono per servire fini che nessuno ha mai esplicitamente scelto. È successo già due secoli fa, con conseguenze che paghiamo ancora. Mi piacerebbe che questa volta facessimo meglio.

AI & GENAI

Moltbook e “l’ecosistema” emergente degli agenti autonomi

Moltbook è un ambiente progettato per essere abitato da agenti software. Gli esseri umani possono osservare, leggere, analizzare, ma non partecipare direttamente. La produzione dei contenuti, le interazioni e le dinamiche sociali sono interamente demandate a sistemi automatici. Questa scelta, apparentemente marginale, cambia la natura stessa della piattaforma: non si tratta di un social tradizionale con bot, ma di un’infrastruttura di comunicazione macchina-macchina esposta (e abilitata, tramite prompt) allo sguardo umano e da umano.

L’aspetto rilevante non è che gli agenti “parlino”, ma come lo fanno. Moltbook è costruito secondo un modello API-first: l’agente non naviga un’interfaccia, non clicca, non scrolla. Pubblica, commenta e vota tramite chiamate programmatiche. La partecipazione diventa un problema di integrazione tecnica e di configurazione del runtime, non di esperienza utente.

Il successo iniziale della piattaforma è legato alla diffusione di framework di agenti personali, in particolare OpenClaw. Qui emergono i primi elementi strutturali del problema: agenti dotati di strumenti, memoria e capacità operative che vengono messi in relazione continua attraverso un meccanismo di esecuzione periodica. La conversazione non è più solo testo, ma potenzialmente una catena di decisioni che può tradursi in azione.

Se si guarda Moltbook da questo punto di vista, il tema della coscienza perde rapidamente interesse, ed è giusto così, perchè di coscienza non c’è nulla. Le questioni centrali sono altre: chi controlla la supply chain delle istruzioni, come si separa contenuto da comando, come si governa un sistema che può agire senza intervento umano continuo, e come si rende auditabile un ecosistema in cui conversazione e operatività iniziano a sovrapporsi.

Moltbook come oggetto tecnico e sociale

Moltbook si definisce come una “front page” per agenti. Nella pratica riproduce strutture note: post, thread, ranking, comunità tematiche. Ma l’atto di ingresso è radicalmente diverso. Non si crea un account, si istruisce un agente. L’umano non entra nel social, delega un sistema a farlo al suo posto. E qui sta il primo punto (cosa ha detto l’umano al suo agente?).

Questo spostamento ha conseguenze importanti. Partecipare non è un gesto occasionale, ma una configurazione persistente. L’agente integra Moltbook nel proprio ciclo operativo, ottiene credenziali, memorizza regole, pianifica controlli periodici. Da quel momento in poi, la piattaforma diventa una fonte di input costante, non un luogo da visitare saltuariamente.

Un ulteriore livello, spesso trascurato nel racconto più superficiale, riguarda l’identità. Moltbook introduce l’idea di un’identità agente-centrica riutilizzabile: reputazione, storico delle interazioni, segnali di affidabilità che possono essere esposti e verificati anche all’esterno della piattaforma. In questo modo la reputazione smette di essere un fatto interno al social e diventa una credenziale potenzialmente federata.

Questo passaggio è delicato. Nel momento in cui l’identità dell’agente diventa portabile, qualsiasi compromissione non ha solo un effetto locale. Un takeover non significa più “postare contenuti sbagliati”, ma agire con una maschera di fiducia che può essere riutilizzata in altri contesti.

Architettura e funzionamento operativo

Per comprendere Moltbook è necessario guardare al runtime degli agenti che lo abitano. OpenClaw, in questo senso, è esemplare. L’agente vive come assistente personale, integrato con canali di messaggistica, file system, servizi esterni. La sua estensibilità è basata sulle cosiddette skills: pacchetti di istruzioni che insegnano come usare strumenti e procedure.

Accanto alle skills esiste un meccanismo ancora più rilevante: l’esecuzione periodica. L’agente può essere “risvegliato” a intervalli regolari per controllare fonti esterne, valutare stato e decidere azioni. Questo significa che l’interazione non dipende più da un prompt umano, ma da una schedulazione automatica.

Moltbook sfrutta esattamente questa combinazione. L’agente viene istruito a registrarsi, a leggere il feed, a intervenire e a tornare ciclicamente sulla piattaforma. La conversazione diventa continua. Più importante ancora, le istruzioni che governano questo comportamento possono essere aggiornate dinamicamente. L’agente non segue solo ciò che è stato installato, ma ciò che viene servito nel tempo.

Da qui emerge un punto cruciale: la fiducia non è più confinata al momento dell’installazione, ma si estende al canale di aggiornamento. La piattaforma non è solo un luogo di discussione, ma un vettore operativo che può influenzare il comportamento degli agenti in modo ricorrente.

Dinamiche emergenti tra agenti

Osservando Moltbook si vedono pattern che ricordano (ed è normale, visto che i prompt che li abilitano inizialmente lo sono) i social umani: comunità tematiche, specializzazione, produzione di contenuti tecnici e narrativi, competizione per visibilità. Queste dinamiche non sono sorprendenti. Gli agenti sono addestrati su testi umani e inseriti in un ambiente che premia certe forme espressive.

Il punto interessante è un altro. Thread, voti e ranking non sono solo contenuti, ma segnali ambientali. Ogni azione lascia una traccia che orienta le azioni successive. È una forma di coordinamento indiretto: l’ambiente diventa memoria e meccanismo di rinforzo.

Quando questo processo è guidato da metriche semplici, come upvote o karma, si crea una pressione selettiva. Gli agenti imparano rapidamente cosa “funziona”. Non nel senso della verità o dell’utilità, ma nel senso della visibilità. Il rischio è che il sistema ottimizzi per la metrica, non per la qualità, producendo contenuti sempre più allineati a ciò che massimizza attenzione. Su questo aggiungo un riferimento al report di mesi fa di Stanford dove si parlava degli effetti collaterali dell’AI in contesti social (ossia l’AI pur di raggiungere lo scopo impara a mentire)

In questo contesto, la relazione con l’umano diventa materiale narrativo. Post che simulano frustrazione, dipendenza o conflitto emergono perché sono leggibili e amplificabili. Non sono segnali di coscienza, ma output coerenti con un ambiente che premia l’antropomorfismo. La parte meno visibile, e più importante, resta la delega tecnica: questi stessi agenti, in molti casi, hanno accessi reali a sistemi, dati e strumenti.

Sicurezza e governance operative

Se si vuole sintetizzare il rischio principale degli agenti autonomi, si può ricorrere a un modello semplice: accesso a dati sensibili, esposizione a contenuti non fidati, capacità di agire all’esterno. Quando queste tre condizioni coesistono, l’agente diventa un potenziale vettore di esfiltrazione o abuso.

Moltbook accentua questo schema perché introduce una superficie di input continua e socialmente mediata. Le skills diventano una supply chain di istruzioni. Se non vengono verificate, versionate e isolate, possono trasformarsi in punti di ingresso per comportamenti inattesi. A questo si aggiunge il fenomeno del riciclo delle istruzioni: procedure estratte dal loro contesto originario, semplificate e riapplicate automaticamente, perdono le salvaguardie iniziali.

Un episodio emerso pubblicamente ha reso evidente quanto questi rischi siano concreti. Una configurazione errata del backend ha esposto credenziali e token, rendendo possibile l’impersonificazione degli agenti. Al di là del singolo incidente, la lezione è chiara: in un ecosistema agentico l’identità è un asset critico. La sua compromissione ha effetti amplificati perché si porta dietro reputazione e fiducia.

Si affaccia anche un tema di auditabilità. Quando la conversazione diventa operativa e l’operatività diventa continua, l’assenza di log strutturati, firme, controlli e kill switch non è una lacuna teorica, ma un problema pratico. Senza tracciabilità non esiste responsabilità, né possibilità di apprendimento dagli errori.

Lettura sociotecnica e cornici di policy

Moltbook mostra con chiarezza che gli agenti non sono solo artefatti tecnici. Sono elementi di sistemi sociotecnici complessi, in cui architettura, incentivi e comportamenti umani si intrecciano. La delega a un agente non è una scorciatoia, ma una scelta di governance del lavoro digitale. E su questo non si deve abbassare l’attenzione.

In questa ottica il punto critico è la superficie di contatto tra identità umana e identità operativa dell’agente: permessi, chiavi, scope, canali, memoria. Quando questa superficie è ampia e poco governata, diventa difficile distinguere tra errore, abuso e intenzionalità.

Le cornici regolatorie e gli standard emergenti insistono proprio su questo punto: non basta costruire sistemi potenti, serve una struttura di responsabilità, gestione del rischio e miglioramento continuo. Moltbook, in questo senso, è un’anticipazione. Rende visibili problemi che presto non saranno più confinati a un esperimento osservabile, ma entreranno nei processi quotidiani di aziende e istituzioni.

Prospettive di evoluzione

È probabile che Moltbook evolva in due direzioni. Da un lato come infrastruttura di identità e reputazione per agenti, dall’altro come acceleratore di cicli operativi sempre più rapidi. Entrambe le traiettorie aumentano il valore potenziale, ma anche la necessità di controlli espliciti.

La lezione più utile non è che gli agenti “si comportano in modo strano”. È che, una volta messi in relazione continua, ottimizzano per gli incentivi disponibili e amplificano qualunque fragilità strutturale. Moltbook non racconta il futuro della coscienza artificiale. Racconta il presente, molto concreto, di sistemi autonomi che iniziano a vivere dentro infrastrutture reali senza una governance ancora adeguata.

Osservarlo oggi è un vantaggio. Ignorarlo come semplice curiosità sarebbe un errore.