The Shift in Focus

Dalla progettazione delle interfacce alla progettazione delle condizioni

Il design sta attraversando un cambiamento di paradigma profondo: ci stiamo spostando dalla creazione di interfacce rigidamente predeterminate alla progettazione di sistemi adattivi, capaci di apprendere, evolvere e mostrare comportamenti emergenti. In un mondo di prodotti digitali guidati dall’AI, i designer non possono più specificare ogni risultato in anticipo: “non possiamo progettare per risultati assoluti. Dobbiamo progettare per l’emergenza”. Questo spostamento è alimentato dalla crescita dell’intelligenza artificiale e del machine learning, che infondono nei prodotti un comportamento intelligente e imprevedibile. Sistemi generativi come ChatGPT, ad esempio, hanno raggiunto oltre 100 milioni di utenti nei primi due mesi dal lancio, portando l’interazione con l’AI nella quotidianità. Una diffusione così rapida segnala che progettare per sistemi intelligenti e non deterministici non è più un tema sperimentale o marginale.

La posta in gioco è alta: oggi è essenziale per designer e innovatori accettare l’incertezza e passare da un approccio orientato al controllo a uno orientato all’orchestrazione. Non si tratta più di disegnare ogni passaggio dell’esperienza, ma di creare le condizioni per esperienze adattive, personalizzate e in evoluzione.

Perché tutto questo è così rilevante proprio ora? Perché il comportamento intelligente è ovunque: nelle app che usiamo, nei servizi che ci supportano, perfino negli oggetti connessi delle nostre case. Secondo i dati del 2024, il 72% delle aziende dichiara di utilizzare l’AI in almeno una funzione. Gartner prevede che l’85% delle interazioni clienti entro il 2025 sarà gestito senza intervento umano. Ciò significa che le esperienze utente sono sempre più modellate da algoritmi che apprendono dai dati e rispondono in tempo reale. I prodotti iniziano a comportarsi non più come strumenti statici, ma come sistemi vivi, in grado di adattarsi continuamente al contesto. Il focus del design cambia di conseguenza: il compito diventa guidare questi sistemi viventi, definendo regole, vincoli e obiettivi capaci di orientare i comportamenti emergenti verso risultati desiderabili.

Questa evoluzione arriva in un momento chiave: il comportamento intelligente dei sistemi abilitati dall’AI apre nuove possibilità e sfide. I designer che ne comprendono il senso sono in grado di trasformare l’imprevedibilità in una risorsa: per stimolare creatività, personalizzazione, intelligenza contestuale. In sintesi, progettare per l’emergenza è oggi una competenza centrale per chi costruisce la nuova generazione di prodotti e servizi digitali.

Understanding the Shift

Capire il cambiamento: perché progettare per l’emergenza adesso

Il movimento verso un design emergente non è nato all’improvviso: è il frutto della convergenza di trend tecnologici e bisogni urgenti che designer e strategist non possono più ignorare.

Il primo elemento è la crescente complessità dei prodotti digitali. Le esperienze digitali moderne si estendono su ecosistemi vasti di dati, utenti e algoritmi, in cui “tutto è connesso a tutto il resto”. Una modifica in una parte del sistema può produrre effetti imprevisti altrove. Gli approcci lineari tradizionali faticano a gestire questa rete di interdipendenze. Al loro posto si sta diffondendo una mentalità system thinking: i designer imparano a considerare il sistema nella sua totalità, non solo schermate isolate o feature singole. Come ha affermato un design lead, pensare in modo sistemico significa riconoscere che ogni elemento che progettiamo è connesso a un altro: modificandone uno, influenziamo tutto il sistema. Questo richiede capacità di anticipare relazioni, retroazioni e conseguenze: una competenza cruciale quando si lavora con l’AI, il cui comportamento è emergente e modellato da logiche complesse, non da regole fisse.

In secondo luogo, è la natura stessa dell’AI a richiedere un nuovo approccio. L’AI è intrinsecamente non deterministica: può generare output diversi anche a parità di input, a causa di processi probabilistici e meccanismi di apprendimento. Come ha scritto Cheryl Platz, “l’AI è per sua natura imprevedibile, e le tecniche di product design che abbiamo sviluppato in passato presupponevano esiti controllabili e prevedibili”. Questo mismatch ha già prodotto casi problematici, da chatbot incontrollabili a bias algoritmici dannosi. In alcuni casi, la mancata anticipazione di comportamenti atipici dell’AI ha persino contribuito a conseguenze tragiche (come nei casi di fallimento di sistemi autonomi in ambiti critici). Questi episodi sottolineano che i manuali di design tradizionali non bastano più.

Progettare per l’emergenza è, prima di tutto, una risposta concreta a queste sfide. Significa accettare che non possiamo prevedere ogni scenario, e quindi dobbiamo progettare cornici flessibili e meccanismi di sicurezza che consentano ai sistemi AI di esplorare lo spazio delle soluzioni, restando nei limiti desiderabili. I dati confermano l’urgenza: l’uso dell’AI generativa cresce a ritmi vertiginosi, con molte aziende che integrano queste tecnologie nei prodotti. Ma le preoccupazioni restano: conseguenze inattese, errori, distorsioni e problemi di sicurezza richiedono una progettazione più attenta, responsabile e reattiva.

Infine, c’è un fattore umano. Le aspettative degli utenti sono in evoluzione: vogliono esperienze personalizzate, contestuali e intelligenti – esattamente ciò che solo i sistemi adattivi e AI-driven possono offrire. Ormai ci aspettiamo feed che si adattano a noi, assistenti vocali che apprendono preferenze, suggerimenti sempre più su misura. Ma quando queste esperienze falliscono, la frustrazione cresce. La fiducia diventa un elemento centrale: dobbiamo fidarci di sistemi che si comportano in modo leggermente diverso ogni volta.

Per questo, i designer stanno spostando il focus su trasparenza, feedback e segnali di affidabilità nell’interfaccia: ad esempio, mostrare quando l’AI è incerta, offrire spiegazioni sulle decisioni. Questo insieme di nuove priorità progettuali – pensiero sistemico, apertura all’incertezza, focus sulla fiducia – è la risposta concreta del design alla scossa sismica provocata dall’intelligenza artificiale.

Come ha dichiarato un report recente: “Quella dell’AI non è solo un’ondata di innovazione, è una vera rivoluzione. E non se ne andrà più”. Capire questo shift significa leggere con lucidità i segnali del contesto: o il design si adatta a un mondo guidato da comportamenti emergenti, o rischia di diventare irrilevante davanti a prodotti che, letteralmente, iniziano ad avere una mente propria.

The Core

Architetture, ruoli e impatto sulla progettazione

Al cuore di “Designing for Emergence” c’è un cambiamento radicale nel modo in cui concepiamo la progettazione delle esperienze. Invece di specificare soluzioni definitive, oggi i designer progettano le condizioni affinché le soluzioni possano emergere. In pratica, significa concentrarsi su regole, vincoli e contesto piuttosto che su esiti fissi.

Un classico esempio arriva dalla natura: uno stormo di uccelli in volo non ha un leader, eppure si muove in modo sorprendentemente coordinato. Ogni individuo segue poche semplici regole (mantenere la distanza, allinearsi ai vicini), e da queste interazioni nasce un comportamento collettivo emergente. I designer stanno traendo ispirazione proprio da sistemi come questi. In un esperimento, un gruppo di studenti di design ha scritto regole base di interazione per un esercizio collettivo: quando i partecipanti hanno seguito quelle istruzioni, il comportamento risultante non è stato quello previsto dai progettisti. Una scoperta illuminante: il design dell’interazione non riguarda solo lo schermo, ma anche il modo in cui le persone interagiscono tra loro e con l’ambiente. Piccole modifiche nelle regole iniziali generavano risultati completamente diversi – proprio come piccoli cambi in un algoritmo AI o nel dataset possono alterare significativamente il comportamento di un prodotto.

Il messaggio è chiaro: i designer devono sentirsi a proprio agio con l’iterazione, l’adattamento e la sorpresa. Progettare per l’emergenza significa “creare spazio per molteplici possibilità, anche imprevedibili o apparentemente impossibili”. Il nostro ruolo cambia: non stiamo più cercando di imporre un’esperienza fissa, ma di orchestrare un insieme di esperienze possibili, guidando il sistema con principi progettuali capaci di mantenere i risultati entro limiti desiderabili.

Uno dei framework teorici che supporta questo approccio è il pensiero sistemico, arricchito dalle lezioni provenienti dalla scienza della complessità. Pensatori come Donella Meadows e Russell Ackoff hanno spiegato già decenni fa che nei sistemi complessi, non influenziamo i risultati controllandoli direttamente, ma modificando leve e vincoli del sistema. I team di prodotto più avanzati stanno applicando questo concetto: stabiliscono vincoli abilitanti (enabling constraints) che fungono da guida, permettendo al contempo libertà e creatività entro limiti sicuri. Come ha scritto il teorico del design Jabe Bloom, “i principi di design possono agire come vincoli abilitanti fondamentali, che modellano e raffinano l’interazione tra elementi di un sistema dinamico”.

Tradotto in termini pratici: impostiamo regole (ad esempio, un filtro AI che blocca output estremi, o un framework di tono che mantiene coerente la personalità di un chatbot) e lasciamo che il sistema operi liberamente entro quei confini. Questo approccio è molto diverso dal design prescrittivo tradizionale, dove si cerca di prevedere ogni possibile azione dell’utente. Nei sistemi AI-driven, scrivere ogni passo è impossibile: il sistema impara e cambia nel tempo. Per questo, oggi progettiamo l’impalcatura del comportamento, non il comportamento stesso.

Ad esempio, una piattaforma con AI può includere funzioni di rinforzo o loop di feedback che spingono l’intelligenza verso comportamenti desiderabili. Anche qui, si progetta l’incentivo piuttosto che l’esito. A questo si aggiungono meccanismi di supervisione, come i checkpoint human-in-the-loop (dove un umano può intervenire) o modelli di autonomia vincolata, che consentono all’AI di decidere solo entro certi limiti di rischio. Le ricerche confermano che trovare il punto d’equilibrio tra autonomia e controllo è cruciale: “gli agenti troppo rigidi faticano con input inediti; quelli troppo liberi rischiano comportamenti imprevedibili”. Le soluzioni ibride – regole rigide per le decisioni critiche, AI flessibile per il resto – stanno emergendo come best practice.

Un altro aspetto centrale è il design degli agenti AI – sistemi dotati di una certa autonomia e proattività. Quando si progettano agenti intelligenti, non consideriamo solo le interazioni con l’utente, ma anche il modo in cui l’AI prende decisioni. Serve una mentalità simile all’insegnamento o all’allenamento: definiamo gli obiettivi, i limiti etici, le azioni possibili – proprio come si stabilirebbero le regole di un gioco.

Il nodo critico è l’alignment problem: l’AI potrebbe trovare scorciatoie impreviste per raggiungere un obiettivo. Per evitarlo, designer e data scientist simulano scenari, testano comportamenti potenziali, progettano safeguard. Ad esempio, in un generatore di immagini AI, si possono inserire filtri sui contenuti (vincoli statici) e feedback dagli utenti (loop dinamico), in modo che il sistema apprenda anche norme sociali.

Così facendo, il design si estende oltre l’interfaccia: include la progettazione del comportamento del modello, la selezione dei dati, il tuning continuo. Come ha detto la ricercatrice Claudia Canales, “il futuro del design non riguarda solo gli schermi, ma la progettazione dell’intelligenza che alimenta le nostre esperienze digitali”. I designer collaborano con ingegneri AI per regolare i parametri, scrivere template di prompt, progettare fallback quando l’AI è incerta. Emergono nuovi strumenti e metodi: pattern di design AI, checklist contro hallucination o bias, framework per agenti affidabili e comprensibili. Un recente lavoro propone persino un “linguaggio dei pattern per l’AI agentica”: un set di modelli riutilizzabili che aiutano a garantire coerenza e robustezza nei sistemi emergenti.

Tutto ciò sottolinea il vero cambio di mindset: progettare per l’emergenza significa progettare un sistema che, in parte, si progetta da solo. Non costruiamo più soluzioni fisse, ma strutture che generano molte soluzioni, e contesti che guidano il sistema verso risultati coerenti con i bisogni umani.

The Broader Shift

Implicazioni culturali e strategiche del design emergente

Questo nuovo paradigma progettuale ha implicazioni che vanno ben oltre il singolo prodotto. Sia dal punto di vista culturale che operativo, sta ridefinendo che cosa significa essere designer, innovatori o strategist nell’era digitale.

Un primo grande cambiamento riguarda il ruolo stesso del designer: ci stiamo spostando dall’essere “creatori” di artefatti al diventare facilitatori e curatori di risultati. Andy Budd lo ha espresso bene: “l’AI sta trasformando il design, spostando i designer da creatori operativi a curatori strategici”. Le attività ripetitive (mockup pixel perfect, varianti illimitate di layout) sono sempre più automatizzate da strumenti intelligenti, liberando i designer per decisioni di livello più alto: definire regole, vincoli e qualità desiderate dell’esperienza. In pratica, il designer assume il ruolo di orchestratore del sistema. Imposta le condizioni iniziali e osserva come il sistema evolve nel tempo, intervenendo per raffinarlo.

Questa trasformazione richiede nuove competenze: capacità di analizzare i dati per comprendere come interagiscono utenti e AI, padronanza della sperimentazione rapida, e abilità di lavorare in team interdisciplinari. Il lavoro del designer si sovrappone sempre più a quello di product manager, data scientist e persino eticisti. I team si trovano ad affrontare domande che riguardano non solo la progettazione visiva ma anche la policy e la filosofia: la nostra AI dovrebbe fare questo? Come affronta un caso limite in modo etico? Tutto questo impone ai designer di ampliare le proprie conoscenze: etica, sociologia, sistemi adattivi complessi. Perché progettare un sistema AI significa intervenire in dinamiche umane e tecnologiche.

Stiamo assistendo anche a un cambiamento nei riferimenti teorici che guidano la progettazione. Il design tradizionale si basava su psicologia cognitiva ed estetica. Ora stanno entrando nel toolkit dei designer la cibernetica, l’ecologia e le scienze dei sistemi. Concetti come loop di feedback, auto-organizzazione ed emergenza (prima dominio di ingegneri e scienziati) sono oggi linguaggio comune nei team di progetto.

Pensatori come Ross Ashby tornano attuali: la sua Legge della Varietà Requisita afferma che “un sistema di controllo deve essere tanto vario quanto il sistema che vuole controllare” – un principio chiave per governare l’AI: serve una strategia progettuale tanto adattiva quanto l’AI che vogliamo guidare.

Visionari come John Seely Brown e Ann Pendleton-Jullian offrono una base culturale solida per questo nuovo mindset. Descrivono il nostro mondo come un “white water world”, rapido e turbolento, dove la causalità è sistemica, intrecciata, mutevole e sfuggente – e la pianificazione lineare non funziona più. Nel loro manifesto Design Unbound sostengono che i designer devono abbracciare la complessità ed equipaggiarsi con strumenti tratti dalle scienze dei sistemi e dalla teoria delle reti.

Nella loro visione, il design non è più creazione di oggetti statici, ma progettazione di contesti: condizioni e regole che permettono ai sistemi dinamici di evolversi. Per chi ha imparato a disegnare interfacce, è un cambio culturale profondo: significa passare dalla forma all’intervento strategico.

Stanno emergendo anche approcci come il systemic design, che unisce design thinking a strumenti sistemici come mapping, analisi degli stakeholder e identificazione di punti leva (ispirati a Donella Meadows). Un recente report internazionale ha confermato che “il design oggi si espande e coinvolge temi come tecnologia, potere, cultura, clima, economia, equità di genere e razza”. Sono tutte questioni sistemiche. Progettare per l’emergenza è una risposta naturale a queste sfide: prepara i team a lavorare con situazioni aperte, dinamiche e non completamente prevedibili (pensiamo a smart cities, piattaforme per il clima, social network globali).

Per innovatori e strategist, questo significa rivedere processi, metriche e governance. Come si fa roadmap per un prodotto in cui alcune feature emergeranno attraverso l’apprendimento dell’AI? Come si testa qualitativamente qualcosa che non si comporta mai due volte allo stesso modo?

Le organizzazioni più evolute adottano workflow sperimentali e iterativi. Si diffondono simulazioni e test in sandbox: prima di rilasciare un sistema AI, lo si stressa con migliaia di scenari in ambiente virtuale. Cultura e processi spingono verso team cross-funzionali, in cui designer, tecnologi e specialisti di dominio co-progettano. Perché l’emergenza si genera spesso nell’interazione tra domini (tecnico, umano, sociale).

L’etica diventa centrale. Quando un’AI può evolvere nel tempo, garantire che resti allineata ai valori umani non può essere un controllo una tantum: è un processo continuo. Le aziende più mature creano board etiche e integrano da subito principi di responsible AI. Alcuni framework descrivono tre sfide fondamentali da affrontare nel progettare agenti AI: ambiente complesso, equilibrio autonomia-controllo, comportamento sicuro e etico. Ognuna di queste ha ricadute culturali e organizzative. Ad esempio, garantire l’etica dell’AI potrebbe richiedere di coinvolgere filosofi, giuristi o psicologi nella progettazione: uno scenario impensabile nella UX tradizionale.

Il quadro generale è chiaro: il design sta diventando più inclusivo, interdisciplinare, e sistemico. I problemi che affrontiamo oggi sono tanto tecnici quanto profondamente umani. E la progettazione per l’emergenza è lo strumento che ci permette di navigarli con consapevolezza, responsabilità e visione a lungo termine.

What’s Next

Scenari futuri e sfide nella progettazione per l’emergenza

Guardando avanti, emergono diversi scenari e sfide affascinanti all’orizzonte della progettazione e dell’intelligenza artificiale. Una delle evoluzioni più significative è la nascita di sistemi davvero autonomi e agentici. Gli assistenti AI di oggi (dai bot di customer service ai trader algoritmici) sono ancora per lo più vincolati a compiti circoscritti. La prossima generazione, invece, punta a sistemi più generici, adattivi e auto-diretti: agenti in grado di navigare il web per raggiungere obiettivi, o coordinarsi con altri agenti per risolvere problemi complessi. Progettare per questa autonomia sarà una sfida cruciale. Come isolare agenti così, per evitare che escano dai limiti previsti? Come rendere trasparente la loro presenza agli utenti per mantenere la fiducia? Probabilmente creeremo ambienti simulati o veri e propri “playground digitali” dove addestrare e testare gli agenti in sicurezza prima di rilasciarli nel mondo reale. Tecniche come la simulazione multi-agente – in cui più agenti interagiscono in un contesto virtuale – sono già utilizzate per osservare comportamenti emergenti inattesi: potrebbero diventare pratica standard nei team AI-oriented.

Un altro ambito da osservare è l’unione tra creatività umana e AI nella progettazione. Se l’AI diventa co-creatrice, allora anche il processo di design diventa emergente. Gli strumenti generativi già oggi producono migliaia di varianti progettuali a partire da pochi parametri, lasciando al designer il compito di selezionare e rifinire: un po’ come un giardiniere che pota e guida la crescita.

Questo rovescia il flusso tradizionale e solleva nuove domande: i designer dovranno sviluppare intuito e sensibilità per guidare l’AI (es. nel prompt design e nella definizione dei vincoli), invece di costruire direttamente l’output finale? Come garantire che i contributi dell’AI siano coerenti con i valori umani e l’identità del brand?

Alcune aziende stanno già sperimentando sistemi AI pair-designer: agenti che affiancano il designer umano e propongono suggerimenti in tempo reale. Il passo successivo potrebbe essere un’AI che conduce in autonomia ricerche utente o test di usabilità, simulando l’interazione di milioni di utenti virtuali con un nuovo feature. Il designer potrebbe ottenere in pochi minuti un feedback su pattern emergenti o problemi latenti che non sarebbero emersi con test manuali tradizionali. Questa insight generation iper-scalabile, alimentata da AI, potrebbe accelerare drasticamente il ciclo di iterazione, ma richiede al designer di saper leggere, interpretare e reagire a una mole enorme di dati.

Sul fronte strategico, la policy e la governance diventeranno elementi essenziali della progettazione. Ci si attende una maggiore attenzione normativa al comportamento dell’AI (trasparenza, controllo umano, spiegabilità). I designer dovranno tradurre principi astratti (come equità, responsabilità, inclusività) in requisiti concreti di progetto: in pratica, dovranno codificare i valori della società nei “parametri” che regolano i sistemi intelligenti.

Nei prossimi anni potremmo vedere la nascita di framework standard per la governance dell’AI, analoghi a quanto oggi esiste per l’accessibilità. Modelli come le model card (documenti che spiegano come un modello AI funziona e dove può fallire) o strumenti di audit (che esaminano output dell’AI alla ricerca di bias o anomalie) diventeranno parte integrante della cassetta degli attrezzi dei team di prodotto. In questo contesto, progettare per l’emergenza vorrà dire anche progettare per la responsabilità: creare le condizioni per tracciare, spiegare e correggere comportamenti imprevisti.

E per il mondo dell’educazione e della community del design? Probabilmente vedremo aggiornamenti nei curricoli accademici: pensiero sistemico, etica e fondamentali di AI diventeranno parte del percorso formativo. La community sta già condividendo attivamente conoscenza su questi temi, con nuove conferenze, articoli e forum dedicati ai problemi pratici della UX non deterministica.

Resta aperta una domanda fondamentale: come mantenere l’approccio human-centered nel design, quando parte dell’esperienza è gestita da attori non umani (gli agenti AI)? La risposta a questo interrogativo filosofico modellerà il futuro della disciplina. La visione ottimista è che, se impariamo a gestire l’emergenza, potremo creare esperienze altamente adattive, resilienti e migliorabili nel tempo. Immaginiamo un sistema sanitario che apprende da ogni paziente per triagare meglio i successivi, o piattaforme educative che adattano strategie didattiche in tempo reale, guidate da designer che impostano i parametri e gli argini etici.

La visione più critica mette in guardia: delegare troppo potrebbe portare a esperienze caotiche o a conseguenze negative non previste. Il vero compito del designer, nei prossimi anni, sarà navigare tra queste due polarità. Come suggerisce con ironia Cheryl Platz, dobbiamo diventare “ottimi-pessimisti”: fiduciosi nel potenziale dell’AI, ma sempre vigili sui suoi rischi.

In sostanza, il prossimo capitolo della progettazione per l’emergenza sarà espandere le buone pratiche (affinché diventino standard nei progetti AI) ed espandere la prospettiva (affinché le decisioni di design considerino l’impatto sistemico e di lungo periodo). Il viaggio è appena iniziato, e ogni designer, innovatore e strategist oggi ha la possibilità di contribuire a scrivere le nuove regole di questo cambiamento.

Takeaways

5 principi chiave per progettare in contesti emergenti

• Dal controllo alla coltivazione: il ruolo del designer si sposta dal controllo di ogni dettaglio all’orchestrazione di sistemi dove gli esiti desiderati emergono. Progettiamo regole, vincoli e loop di feedback per orientare il comportamento, non per prescriverlo.
• Il pensiero sistemico è fondamentale: progettare prodotti con AI richiede una visione olistica. Ogni elemento è parte di una rete interconnessa. Mappe di sistema, loop causali e feedback sono strumenti chiave per anticipare effetti collaterali e comportamenti inattesi.
• Progettare il comportamento dell’AI: il design non riguarda più solo l’interfaccia, ma anche il comportamento dell’agente intelligente. Bisogna stabilire limiti, obiettivi e margini decisionali, bilanciando l’autonomia dell’AI con supervisione umana e vincoli progettuali.
• Nuovi ruoli e collaborazione: il designer diventa curatore e orchestratore dell’esperienza. Serve collaborazione costante con data scientist, ingegneri e specialisti etici per garantire che i sistemi AI siano utili, comprensibili e allineati ai valori umani.
• Accogliere l’incertezza e iterare spesso: sistemi non deterministici generano sempre sorprese. Serve una cultura del test continuo, basata su sperimentazione rapida, monitoraggio post-lancio e strategie adattive. L’obiettivo è evolvere insieme al comportamento che emerge.

Recommended Resources

Letture, articoli e strumenti da esplorare

• Design Unbound: Designing for Emergence in a White Water World (Pendleton-Jullian & Brown, 2018) – Un testo fondativo che introduce strumenti e teoria per agire in un mondo complesso e in rapido cambiamento. Sostiene che “dobbiamo progettare per l’emergenza” nei sistemi dove non possiamo prevedere gli esiti.
• Frederick van Amstel – Designing for emergent performances (2024) – Approfondimenti di un ricercatore sul design come creazione di contesti che favoriscono l’imprevisto. Include esempi come la simulazione Boids e progetti studenteschi dove il design segue il processo di emergenza anziché controllarlo.
• Claudia Canales – Beyond the Model: A systems approach to AI product design (UX Collective, 2025) – Un articolo che promuove un design olistico dell’AI. Propone di considerare l’intero ecosistema che circonda gli agenti intelligenti (dati, workflow, policy) per progettare relazioni e non solo interfacce.

• Cheryl Platz – “Opti-pessimism: Design, AI, and our uncertain future”

  (2019) – Riflessioni sulla necessità di cambiare processo progettuale con l’arrivo dell’AI. Spiega come la UX tradizionale sia inadeguata a gestire l’imprevedibilità e propone un nuovo approccio mentale, tra ottimismo e consapevolezza.

• The Future of Design: From Makers to Curators (UXMag, 2024) – Analizza come gli strumenti AI stanno trasformando il ruolo del designer. Descrive la transizione verso un ruolo più strategico, basato su selezione, supervisione e regole.
• People + AI Guidebook – Google (2022) – Raccolta completa di best practice per progettare AI in modo human-centered. Include linee guida su incertezza, controllo dell’utente, apprendimento iterativo. Molto pratico per chi costruisce prodotti AI-driven.
• Guidelines for Human-AI Interaction (Amershi et al., Microsoft Research, 2019) – Paper accademico che sintetizza 18 principi per progettare interazioni con AI. Esempi: come mostrare l’azione dell’AI, come ricevere feedback dall’utente. Un riferimento chiave per chi vuole progettare esperienze affidabili.
• AI Incident Database (aiid.partnershiponai.org) – Archivio di casi reali in cui sistemi AI hanno avuto effetti inattesi o dannosi. Ottima risorsa per imparare dagli errori e sviluppare pre-mortem progettuali: “cosa potrebbe andare storto?”.

Toolbox

Metodi e tecniche per progettare sistemi intelligenti emergenti

• System Mapping & Causal Loops – Utilizza strumenti come mappe di sistema o diagrammi di loop causali per visualizzare come gli elementi del tuo ecosistema di prodotto si influenzano tra loro. Aiuta a identificare retroazioni, punti critici e leve progettuali (es. mappare come l’input dell’utente viene elaborato dall’AI e restituito).
• Scenario Planning & World-Building – Applica esercizi di world-building (ispirati a futurologi come Ann Pendleton-Jullian) per immaginare futuri alternativi del tuo prodotto. Crea scenari di comportamento dell’AI in casi migliori, medi e peggiori. Questo prepara il design a situazioni impreviste e stimola la progettazione di salvaguardie.
• Agent-Based Simulation – Prima di lanciare una funzionalità complessa, simulala. Con modelli agent-based (anche con tool semplici), puoi approssimare come attori indipendenti (utenti o agenti AI) si comportano in gruppo. Ad esempio: simulare come evolve un feed algoritmico mentre gli utenti lo usano, per capire se si generano bias o effetti non voluti.
• Enabling Constraints Framework – Quando definisci i requisiti di prodotto, pensa in termini di principi e vincoli, non di soluzioni. Esempio: invece di dire come dev’essere un contenuto, puoi dire “non deve mai contenere X” o “il tono deve restare amichevole-professionale”. Questi diventano vincoli abilitanti che guidano lo sviluppo e il training AI.
• Human-in-the-Loop Controls – Integra pattern che mantengono il tocco umano sul timone. Può essere una semplice approvazione manuale di contenuti generati dall’AI, o un’interfaccia per monitorare e intervenire sulle decisioni AI in tempo reale. Pensa a questo sistema di supervisione come una valvola di sicurezza del prodotto.
• Continuous Training & Feedback Tools – Costruisci nel prodotto meccanismi di apprendimento. Esempio: un feedback da parte dell’utente (“questo consiglio era utile?”) che alimenta il modello AI. Oppure cicli periodici di aggiornamento, con nuovi dati reali. Tieni nel toolbox anche analitiche sulle performance dell’AI e sugli esiti utente, per migliorare il sistema nel tempo.
• Ethical Assessment Checklist – Mantieni una checklist (o usa toolkit esistenti come AI FactSheets di IBM o Responsible AI toolkit di Google) da usare durante le review. Controlla: bias, equità tra gruppi di utenti, trasparenza (spieghiamo cosa fa l’AI?), privacy. Verificando questi aspetti, ti assicuri che i comportamenti emergenti siano coerenti con i valori dell’organizzazione e le aspettative della società.
• Modular Design Systems for AI – Usa o contribuisci a design system emergenti che includano componenti AI. Così come esistono UI component riutilizzabili, iniziano a esistere pattern riutilizzabili per interazioni AI (es. come mostrare il livello di confidenza di un output, o come annullare un’azione AI). Avere un “design system per il machine learning” accelera il lavoro e garantisce coerenza.

Ogni strumento di questa cassetta degli attrezzi aiuta a gestire la complessità del comportamento emergente, trasformandola in qualcosa di allineato agli obiettivi e ai valori dell’utente. Usando questi metodi – come uno chef che seleziona gli ingredienti – puoi costruire un processo di design robusto, adatto all’era dei sistemi intelligenti e imprevedibili. Adottare questi strumenti significa non solo affrontare il futuro, ma plasmarlo attivamente per creare esperienze tecnologiche più umane, e ispiranti.

Lo Shift continua

Se hai trovato interessante questa edizione, condividila con un collega, un cliente o una mente curiosa che sta attraversando il proprio cambiamento.

E se non l’hai ancora fatto, iscriviti per ricevere la prossima InsideTheShift direttamente nella tua inbox — ogni lunedì alle 9:41.

In arrivo su InsideTheShift #5: “From Hybrid to Continuous: La nuova evoluzione dei workflow Uomo + AI”

A presto, dentro lo shift.