Tag: trasparenza

AI & GENAI

Il watermark di Claude e il tool open source che lo smonta

Dal 2 agosto 2026 i nuovi modelli Claude lanciati nell’Unione Europea nascono con un watermark incorporato nel testo che generano, e, dove il formato lo consente, con metadati di provenienza firmati secondo lo standard C2PA. È l’attuazione pratica dell’articolo 50(2) del Codice di condotta europeo sull’AI Act, che Anthropic ha firmato insieme ad altri fornitori di modelli generativi: il funzionamento è descritto nella scheda ufficiale sul marking pubblicata dall’azienda.

La rete, come sempre, ha reagito più in fretta della norma. Su LinkedIn circola uno screenshot con toni da comunicato: non sarebbero passate nemmeno ventiquattr’ore da quando è comparsa una skill capace di ripulire i testi da Claude, Gemini e OpenAI, mille stelle su GitHub in un giorno, cento per cento open source. Il progetto si chiama watermarks-remover, ed è il banco di prova giusto per capire quanto valga davvero, oggi, marcare un contenuto generato da intelligenza artificiale.

Due firme, non una

Il watermark di Anthropic si scompone in due meccanismi distinti, e la distinzione conta perché determina anche dove un tool avversario può colpire. Il primo vive dentro il testo stesso: un segnale statistico intessuto nella scelta dei token, invisibile a occhio nudo, che sopravvive al copia e incolla e in parte anche alle modifiche successive. Il secondo vive nei file: metadati C2PA firmati, applicati a formati come SVG, PNG e JPG, pensati per segnalare se un contenuto è stato processato da Claude e se è stato manomesso dopo.

Anthropic stessa, nella sua scheda di trasparenza, elenca i limiti di entrambi i canali con una franchezza che raramente si vede nella comunicazione di prodotto. Un segnale rilevato non prova la paternità intera del contenuto, perché Claude può aver semplicemente tradotto, riassunto o corretto un testo altrui. E l’assenza del segnale non prova il contrario, perché basta un modello precedente all’agosto 2026, una riscrittura pesante, un passaggio troppo corto o una conversione di formato per far sparire la traccia. È dentro questo margine dichiarato, non contro di esso, che si è mosso chi ha scritto watermarks-remover.

Watermark scomposto in tre livelli

Il repository di Guillaume Meyer, con licenza MIT e oltre trecento fork, separa il problema in tre pezzi con garanzie molto diverse tra loro, e qui la differenza tra teoria e pratica diventa concreta. Il primo livello ripulisce i caratteri Unicode invisibili, spazi esotici, marcatori bidirezionali, tag nascosti che alcuni schemi di marcatura usano come vettore. È un’operazione deterministica, verificabile riga per riga, e non tocca una sola parola del testo visibile: puliscono un file di testo o un Markdown senza alterarne il significato.

Il secondo livello attacca invece i watermark statistici, quelli intessuti nella probabilità con cui un modello sceglie un token piuttosto che un altro, come SynthID-Text di Google o gli schemi in stile Kirchenbauer. Qui non esiste scorciatoia: il segnale è distribuito su quasi ogni frase, quindi rimuoverlo richiede una riscrittura pesante, frase per frase, non un rimescolamento di paragrafi. Gli stessi autori del progetto lo scrivono senza infingimenti nel proprio README, ponendo una domanda che è quasi un autogol dichiarato: se il piano è comunque riscrivere il testo con un modello più economico, che senso ha aver pagato prima un modello premium? La riscrittura degrada tono, voce, precisione, e il risultato non può superare il livello del modello usato per riscrivere.

Il terzo livello ripulisce infine i metadati dei file, dalle proprietà nascoste di un DOCX ai chunk EXIF e XMP di un PNG, passando per PDF, SVG, ODT, HTML. Qui però la matrice di copertura pubblicata dal progetto stesso ammette due buchi precisi: la rimozione dei watermark incorporati nei pixel resta fuori portata, e il cosiddetto soft binding C2PA, quel legame che può ricollegare un file a un manifest remoto anche dopo aver ripulito i metadati locali, non viene toccato. Per la marcatura pixel di SynthID esiste solo uno strumento esterno, non incluso nel pacchetto, che ne misura la probabilità di presenza: la rileva, non la cancella.

Il limite che la letteratura conosce da prima

Lo screenshot che circola su LinkedIn parla di “segnali statistici SynthID” gestiti dallo strumento, ed è vero solo a metà: vale per la variante testuale dello schema, descritta da Dathathri e colleghi su Nature nel 2024, non per l’uso più noto di SynthID sulle immagini, dove restare invisibile al watermark resta un’altra storia. La stessa distanza tra rivendicazione social e comportamento reale del codice vale per la cornice temporale: la cronologia delle release, da v0.0.1 a v0.3.2, mostra un lavoro incrementale fatto di hardening della sicurezza, scritture atomiche sui file, limiti di risorse, pipeline CI con firma delle dipendenze. Non è il weekend hack che il post lascia intendere, ed è forse anche per questo che le stelle su GitHub, oggi che scrivo, hanno superato quota tremila: non un picco isolato, un interesse strutturale.

C’è poi un piano più teorico che il caso pratico rende visibile. Zhang e colleghi, in un lavoro presentato all’ICML del 2024, avevano già dimostrato che nessuno schema di watermarking robusto può resistere a un avversario sufficientemente motivato senza pagare un prezzo inaccettabile in termini di qualità del testo. Il costo che gli autori di watermarks-remover ammettono candidamente, quello della riscrittura che impoverisce la prosa, non è un dettaglio implementativo: è la conferma pratica di un risultato che la ricerca aveva già scritto sulla carta, prima ancora che qualcuno lo trasformasse in un tool con trecento fork.

Ne avevo scritto, da un’angolatura diversa, quando affrontavo il tema della realtà sintetica e di quanto sia diventato fragile il confine tra ciò che vediamo e ciò che è stato costruito: lì il problema riguardava le immagini e i deepfake, qui riguarda il testo, ma la domanda di fondo resta identica, chi decide cosa merita fiducia.

L’etica del progetto, dichiarata esplicitamente dagli stessi autori, parla di uso legittimo per la privacy e l’igiene dei propri contenuti, non di frode accademica né di false dichiarazioni di autorialità umana. È una precisazione onesta, ma resta scritta in un file di testo dentro un repository con licenza MIT, dove nessuno controlla davvero chi la legge prima di usare lo strumento. È esattamente qui, nello spazio tra l’intenzione dichiarata e l’uso reale, che la governance deve costruire le proprie fondamenta, non nel codice ma nelle norme, nelle abitudini professionali, nella cultura di chi tratta un contenuto generato come parte di una filiera che merita verifica, non come un dato acquisito.

La trasparenza non vincerà perché un singolo watermark resiste a ogni tentativo di rimozione, quella battaglia l’aveva già persa la ricerca prima ancora che iniziasse. Vincerà se costruiamo un ecosistema di segnali sovrapposti, testo e metadati e strumenti di verifica esterni come l’interfaccia di mediazione tra chi produce e chi legittima un contenuto, capace di alzare il costo della cancellazione anche quando la cancellazione resta tecnicamente possibile. È un lavoro di infrastruttura più che di crittografia, e su questo lavoro vale la pena investire.

Fonti: How Claude marks AI-generated content (Anthropic); watermarks-remover di Guillaume Meyer su GitHub.

WEB3, METAVERSE & NFT

L’essenza del Web3, in un racconto per bambini

Dietro ogni cambiamento c’è una storia.

Questa è la storia sintetica, ripresa da varie letture fatte in questi anni / giorni , che ieri viaggiando in macchina con i miei figli, di ritorno da un week end in montagna, ho raccontato per far capire cosa cambierebbe con il web3 e come questo potrebbe portare nuovi benefici, dopo la domanda di mio figlio “Ma cosa è il web3?”

C’era una volta un mondo di navigatori ed esploratori, che amavano viaggiare, scoprire, creare e inventare.
….

Nel loro percorso scoprirono una nuova terra e con il tempo la resero abitabile per molti. Una terra in cui era possibile viaggiare lontano, anche per chi non poteva viaggiare realmente, informarsi e condividere conoscenza. Mentre la popolazione dei visitatori aumentava, alcune grandi tribù costruirono delle città enormi in questa terra, e presero talmente tanto potere da riuscire a dividere questa terra in continenti . In tutte queste città i visitatori dovevano pagare una forma di affitto per rimanere lì e tutto ciò che i visitatori creavano o forgiavano non poteva essere rimosso, ed in molti casi diventava di proprietà della tribù. Anche gli scambi e le vendite tra persone venivano tracciate e tassate. Queste grandi tribù più passava il tempo più diventavano potenti e polarizzanti, creando un mercato non più florido ed in cui era difficile creare cose nuove.

…

Un giorno un visitatore appese una lettera sulla porta di un ricco castello: era una lettera che descriveva un nuovo tipo di commercio economico che poteva essere distribuito senza la necessità che ogni scambio o transazione fosse tassata e gestita. Una pratica affidabile e trasparente che rese possibile per i visitatori possedere realmente una proprietà su questa terra, per la prima volta. Improvvisamente, i visitatori diventarono proprietari e iniziarono a scambiare tra loro creando nuovi mercati dove poter scambiare e vendere diverse cose. La terra divenne fertile di nuovo e pronta una nuova esplorazione, dando vita ad una nuova fase di ricercatori e pionieri.

Da qui in poi la nascita di nuove tribù, auto-organizzate, con nuove missioni e interessi. La terra tornò di nuovo fertile, aperta a nuove possibilità di crescita.

….

Il visitatore sconosciuto, colui che iniziò la rivoluzione pubblicando la lettera, oggi è considerato ancora una leggenda.

La storia del web3 potrebbe esser questa e quello che volevo condividere ed enfatizzare erano sicuramente i valori e l’essenza che c’è dietro questo cambiamento imminente. La decentralizzazione è il cuore della storia, e non è un tema facile da raccontare a dei bambini. Ma è un tema che si porta dietro tematiche come trasparenza, fiducia, oggettività e equità. La decentralizzazione è molto più che un sistema tecnologico, è un movimento etico culturale che si sta propagando ed è giusto raccontarlo e farlo capire.

Il web si sta spostando ora dall’internet di “scambio di informazioni” a quello di “scambio di valore“. Ciò che mancava finora al web erano proprio i diritti di proprietà e quindi il modo per assegnare valore ai beni digitali ed il modo per scambiare la proprietà. Creators di contenuti, sviluppatori e costruttori di piattaforme, community e imprenditori sono tutti abitatori differenti di questo nuovo ecosistema che si sta creando.

Ovviamente la storia raccontata ai miei figli è andata oltre e abbiamo parlato di tanto altro, visto che il viaggio è durato – causa traffico – ben più di due ore. Quello che ho cercato di far capire è che non si tratta solo della prossima cosa interessante tecnologica da usare o di una piattaforma su cui costruire il prossimo gioco o il prossimo social, ma si tratta di un cambiamento in grado di poter dare a tutti maggior spazio di crescita, equità e tutela.

Ci sto lavorando veramente alla fiaba, vi aggiorno non appena la pubblico su amazon.

DIGITAL CULTURE

L’essenza del networking

Un guerriero della luce condivide con gli altri tutto ciò che conosce del cammino. Chi aiuta, viene sempre aiutato, e ha bisogno di insegnare ciò che ha appreso. Perciò egli si siede intorno al fuoco e racconta com’è andata la giornata di lotta. Un amico gli sussurra: “Perchè parlare tanto apertamente della tua strategia? Non vedi che, comportandoti così. Corri il rischio di dover dividere le tue conquiste con altri?” Il guerriero si limita a sorridere, e non risponde. Sa che, se giungerà alla fine del viaggio in un paradiso vuoto, la sua lotta non avrà avuto alcun valore.

Credo sia l’essenza del networking e del fare rete.

Tratto dal “Manuale del guerriero della luce” di Paulo Coelho.

TECH & BUSINESS

Management 2.0

Qualche giorno fa sono stato contattato da una rivista per scambiare due chiacchiere sul tema del Management 2.0. Visto che l’articolo che verrà pubblicato su imprenditori.it è stato mixato con altri interventi (tra i quali quello di Alessandro), vi riporto le domande che mi erano state poste e le risposte integrali.

Da cosa deve partire un’azienda che voglia passare a un modello di management 2.0?
Oggi, a mio avviso, per affrontare una azienda che vuole affrontare un cambiamento di questo tipo ed arrivare ad un management 2.0 deve necessariamente intraprendere un nuovo percorso di gestione e governo. Prima di pensare quindi ad un management 2.0 è fondamentale che l’azienda acquisisca la consapevolezza dell’importanza di una “organizzazione 2.0″ basata su:

  • visione etica, non solo scritta su un pezzo di carta o su una sito, ma applicata con coerenza anche nell’operatività;
  • velocità e flessibilità nel cambiamento continuo sia dal punto di vista dei ruoli che delle modalità operative. Modalità che richiedono una forte adattabilità dei sistemi informativi nei tempi di risposta che, oggi come oggi, devono esser sempre più rapidi e reattivi rispetto alle esigenze del business e ai cambiamenti del mercato, per supportare processi organizzativi in rapido cambiamento e spesso destrutturati;
  • collaborazione e capacità di stimolare una relazione e una partecipazione delle persone indipendentemente dagli schemi organizzativi e dalle gerarchie;
  • cultura della cocreazione e capacità di attrarre e coinvolgere nei processi di ri-definizione e creazione di prodotti e servizi attori esterni come clienti, partner e fornitori;
  • apertura al dialogo e trasparenza e spinta alla socialità nella comunicazione e nei rapporti sia on line che offline;
  • accessibilità alle informazioni e agli strumenti indipendentemente dalla localizzazione fisica e dagli orari di lavoro per i dipendenti ed i collaboratori;

Quali sono le soluzioni irrinunciabili da realizzare all’interno di un’azienda perché questa arrivi a essere gestita con modalità di leadership condivisa e con un passaggio più fluido delle informazioni da un settore a un altro?
Per costruire un modello di impresa 2.0, che trasformi l’azienda in una social organization, è necessaria l’applicazione di un nuovo paradigma che metta al centro le persone e le informazioni, che permetta a tutti di poter contribuire attraverso la condivisione di esperienze personali e professionali e permetta soprattutto di accedere alle informazioni in modo semplice, così da creare una conoscenza condivisa e una valorizzazione del merito, delle competenze, del talento e della creatività. Un modello di impresa che ambisce ad una leadership condivisa e che permetta una fruizione di informazioni in modo fluido e trasparente, deve svilupparsi su alcuni fattori chiave quali cultura, strategia, leadership, community management, contenuti, governance, strumenti, metriche, hr, learning comunicazione interna ed esterna e corporate responsibility. Per ottenere risultati, diventa necessario rivedere politiche e strumenti di comunicazione, di formazione, di change management, di relazione con gli stakeholder interni ed esterni. Lo sviluppo di strumenti di collaborazione, piattaforme di Enterprise2.0 e community management e possibili articolazioni del community management diventa, così, prioritario. Possiamo riepilogare alcune soluzioni, aggregandole per 3 aree:

  • Soluzioni interne all’organizzazione: le community fungono da hub e generano interazione, relazione, comunicazione e formazione all’ interno dell’azienda. Gli strumenti ideali sono quindi Intranet 2.0, Social network aziendali, Corporate blog, piattaforme di Social Learning, Collaboration tools
  • Soluzioni per la comunicazione all’esterno dell’organizzazione: con lo sviluppo del marketing conversazionale e di relazione verso tutti gli stakeholder esterni all’azienda, è necessario impiantare strumenti di Social media monitoring, Brand Community, Social Innovation, CRM 2.0
  • Soluzioni strettamente legate ai processi di innovazione: in questo caso non ci sono a mio avviso strumenti specifici, ma iniziative che utilizzando gli strumenti e le soluzioni descritte nei punti precedenti, stimolino e facilitino all’ interno delle community – luogo principale della condivisione delle conoscenze e dell’innovazione partecipata – lo sviluppo e la creazione di nuove idee e nuovi progetti.

Quale percorso fa, solitamente, una persona che entri in un’azienda dove si applica il management 2.0? Come viene “allenata” ad adattarsi a una organizzazione aziendale diversa dagli standard?
Secondo la mia esperienza, una persona che entra all’interno di una azienda che sta sviluppando un management 2.0 e ha con una radicata cultura organizzativa basata sulla partecipazione, trasparenza e trasversalità, ha molti meno problemi di integrazione ed acquisizione di informazione rispetto ad altre aziende diversamente organizzate. L’allenamento e l’adattamento saranno molto più semplici poichè l’approccio 2.0 facilità il passaggio delle informazioni e rende le persone che entrano a far parte dell’organizzazione più responsabili e con un alto livello di accountability, maggiormente coinvolte dal punto di vista emotivo e professionale e con un forte senso di appartenenza. La diversità percepita al momento dell’ingresso, rispetto agli standard – se così possiamo definirli – di altre aziende , verrà modificata in poco tempo. Quella “diversità” percepita non sarà più quella dell’azienda con un management 2.0, ma del resto delle aziende che verranno viste come poco innovative, meno coinvolgenti e con un ambiente meno gratificante.

DIGITAL CULTURE

La politica che vorrei

Oggi ho ricevuto una mail da un amico che mi ha invitato a leggere la lettera aperta che ha scritto al partito, con lo scopo di discuterne, criticarla, magari integrarla e condividerla in rete. Di solito non mi piace scrivere di politica, fantapolitica, destra o sinistra. Ci sono argomenti che secondo me, malgrado siano borderline tra politica e cultura è giusto condividere e affrontare. Indipendentemente dallo schieramento politico.

Leggere il post mi ha fatto riflettere su alcuni temi, e sulla politica che vorrei.

Un sistema senza trasparenza non può costruire fiducia perché favorisce i furbi e costringe gli onesti in uno stato di illegalità latente; la trasparenza, al contrario, promuove la responsabilità e il merito. Nell’epoca della cultura digitale essere trasparenti significa adottare il modello dell’open government.

…

Lo Stato del ventunesimo secolo deve puntare alla co-produzione dei servizi pubblici, riconoscendo che i cittadini hanno competenze da mettere in campo e rappresentano delle risorse da coinvolgere. Gli individui, le famiglie, i vicinati, le comunità locali rappresentano il sistema operativo sul quale funzionano i servizi assicurati dalle pubbliche amministrazioni. Quando queste ultime operano in contrasto con i primi i risultati sono performance scadenti, un basso livello di fiducia, una scarsa volontà di partecipazione. Il riferimento al computer non è casuale perché il tipo di tecnologia che viene sviluppata e che si diffonde in una società ne plasma in modo decisivo la struttura materiale e la politica non può continuare a ignorare la cultura digitale, che sottolinea valori come la responsabilità, la collaborazione, l’innovazione e la libertà.

Nella politica attuale i cittadini hanno veramente poca influenza sulle decisioni prese nel loro nome dai rappresentanti eletti durante il lungo periodo del mandato.

Oggi, secondo me, è necessario creare dei canali di comunicazione e dei luoghi di aggregazione aggregazione, virtuali e reali, in cui il cittadino possa partecipare attivamente alle scelte, cancellando quel confine e quella distanza che si crea tra l’elettore e l’eletto: luoghi di deliberazione pubblica che, oltre al valore dato dalla condivisione della conoscenza e delle esperienze, diano la possibilità ai partecipanti di accrescere il proprio senso civico e il proprio senso di responsabilità verso ciò che è collettivo.

La partecipazione genera un maggior coinvolgimento, un maggior grado di informazione e trasparenza, la fiducia nelle informazioni condivise, un senso di responsabilità e lo sviluppo di momenti di riflessione partecipativa. Essere “costretti” a confrontarsi in pubblico, attenua tramite il pudore la ricerca dell’interesse personale, a vantaggio di comportamenti finalizzati al bene generale.

La politica che vorrei è fatta dei valori condivisi dal popolo della rete e che si trovano nei principi della Cultura Digitale: trasparenza, etica, fiducia, responsabilità, partecipazione e coinvolgimento.

Vi invito a leggere anche il post di Nicola.