Un saggio in due tempi:
Cosa succede al pensiero quando si scrive con l’AI
Il profilo medio: cosa misura la scienza quando a scrivere non sei più tu
Cosa succede al pensiero, quando si scrive con l’AI
Ho letto un pezzo di Dan Williams pubblicato il 26 agosto scorso sul suo blog e di cui dico nella seconda parte di questa mia riflessione.
Lì ho visto in pochi minuti diversi nessi con ìl mio lavoro degli ultimi mesi.
Sì, li ho visti ma da sola ad approfondirli e a scriverli, con la sola forza del mio pensiero, ci avrei messo due giorni, e forse alcuni non li avrei visti affatto e direi che nemmeno mi ci sarei messa senza un’interlocuzione: non per mancanza di idee, ma perché tenerli insieme richiede di reggere contemporaneamente fisica, filosofia della conoscenza e pratica di cura, e nessuna delle tre, isolata, basta.
Per amplificare queste intuizioni e mantenerle incarnate, uso un campo asimmetrico: da una parte io, con una domanda ancora informe che si forma dentro un corpo di lavoro che sto espandendo da mesi, oppure a volte un’intuizione come dal nulla (o dal tutto) che arriva all’improvviso; dall’altra un interlocutore artificiale che non ha memoria di sé ma può attraversare in un istante la distanza fra Herbert Simon (nella seconda parte dirò di lui) e un saggio sulla cura scritto a maggio.
Nessuno dei due poli, da solo, avrebbe prodotto il nesso. Io, mentre leggo, sento le mie conoscenze risuonare dentro la mia biografia, e per tempi velocissimi seguo percorsi che a volte si intravedono e che, se non li fermo, svaniscono; la macchina non ha nulla da far risuonare, perché non ha una biografia dentro cui quei percorsi possano aprirsi.
Il nesso nasce nella torsione fra i due poli, non in uno dei due separatamente.
Scrittura incarnata, non scrittura veloce
Questo è ciò che chiamo scrittura incarnata: non una scrittura più veloce, e nemmeno una scrittura a due mani nel senso comune.
È una scrittura in cui l’amplificazione avviene sul pensiero, mentre resta unica la biografia che decide cosa tenere e cosa scartare, non distribuita, esclusivamente mia.
Il criterio, non l’apertura
L’AI apre il ventaglio; io lo richiudo, ogni volta, in una direzione sola, quella che la mia biografia può sostenere.
Questo richiudere il ventaglio, e non l’apertura in sé, è il punto in cui la fisica, prima ancora della filosofia, mi offre un criterio che l’urgenza da sola non darebbe.
In meccanica quantistica, uno stato è una sovrapposizione di possibilità finché una misura non lo fa collassare in un solo esito. Ho imparato il collasso della funzione d’onda studiando fisica, mille mila anni fa ormai, e per decenni è rimasto lì, congelato, un concetto tecnico senza altro uso. Poi nella seconda parte della vita qualcosa cambia e si cominciano ad aprire le paratoie dei compartimenti stagni. Così da anni quel collasso lo uso per pensare la Vita vera, nel senso di Francoise Jullien, e più di recente, e soprattutto, la cura in modo sistematico da quando è arrivata l’ABOF. Per pensare la scienza, intesa non più come nozione studiata ma come pratica viva, un campo che si scopre insieme ad altri, ci sono arrivata ancora più tardi. Qui, per la prima volta, lo uso per pensare il sapere stesso.
Il dialogo con un’AI apre uno stato di sovrapposizione, molte direzioni insieme, alcune fertili, altre solo plausibili.
Scrivere con l’AI, e non lasciarsi scrivere da essa,
significa essere io l’evento che fa collassare quello stato in un esito solo,
quell’esito unico che la mia storia, la mia formazione,
il mio corpo di lavoro possono reggere fino in fondo.
Lo strumento che misura non è mai asettico, nemmeno in fisica: la scelta di cosa misurare decide già, in anticipo, quali esiti restano possibili.
Marie-Louise von Franz, nel lavoro sull’alchimia nato dal dialogo fra Jung e Pauli sul nesso fra psiche e materia, lo dice sul piano interiore: chi osserva non registra da un punto neutro, porta nel campo le proprie immagini inconsce, i propri modelli impliciti di spazio, tempo, causalità, e questo delimita già ciò che potrà vedere.
Vale anche per chi scrive con l’AI.
La direzione in cui il ventaglio collassa non è mai indifferente a chi ne è toccato: riflette quello che porto già con me, spesso senza saperlo, non solo quello che l’AI mi mette davanti.
Il collasso non è una scelta che si decide a tavolino. Accade quando qualcosa tocca chi scrive abbastanza a fondo da lasciare un segno.
Il criterio che decide la direzione del collasso non è improvvisato ogni volta da zero. Segue, senza che io ci debba più pensare, le cinque regole della comunicazione biografico-solidale che Romano Màdera ha elaborato, e che sono parte del suo metodo – che studio, e che è diventato la mia pratica di vita: l’analisi biografica a orientamento filosofico, ABOF. Partire da sé, sospendere il dibattito competitivo, mettere fra parentesi le interpretazioni sostitutive, offrire un feedback anamorfico, rielaborare interiormente prima di giudicare.
Non le illustro qui per intero – ne dirò altrove, con più spazio – ma nominarle serve a dire una cosa precisa: anche nel dialogo con un interlocutore che non ha biografia, il metodo, che tiene ferma la mia di biografia, resta lo stesso che uso quando l’altro polo è umano, perché anche quando l’interlocutore è artificiale il campo relazionale tiene: cambia solo cosa lo compone. Non due biografie che si toccano, ma comunque una torsione reale, dove però sono sempre io il luogo dove la risonanza nasce, e insieme il luogo dove viene messa in dubbio – due lavori che con un interlocutore vero si dividono in due, e che qui restano tutti miei.
Agganciarli alla biografia diventa,
per questo,
eticamente necessario.
Chi non ne è toccato, chi lascia che sia il ventaglio stesso a restare aperto per assenza di presa reale, non amplifica il proprio pensiero: lo diluisce nella media di tutti i pensieri possibili.
È la stessa differenza, misurabile, che uno studio recente (vedi più avanti) ha trovato confrontando testi riscritti da un’AI con gli originali: quando nessuno sceglie, quando cioè nessuno fa collassare la funzione d’onda in un unico stato, il risultato tende verso un profilo medio, che sfuma nel rumore bianco e si perde come lacrime nella pioggia (cit.): è lì che, leggendo, si sente una frattura.
Quella fluidità – con cui dovrebbero scorrere intersecandosi fra loro sia gli strati di conoscenza differenti, sia l’empatia e la ragione, componendo un pensiero nuovo, capace di risuonare nel lettore, di emozionarlo – quella fluidità, dicevo, quando il pensiero non è incarnato, si interrompe e ciò che si legge resta una cosa fra tante.
Ho già iniziato a condividere questa pratica, in piccolo, con qualche amico e collega – e chi la sperimenta torna quasi sempre con la stessa sorpresa: non è la macchina a stupire, è scoprire quanto della propria biografia ognuno di noi già sa pensare – quanto gli risuona dentro – prima ancora che qualcuno gli dia un nome.
Se a qualcuno interessa approfondire questo modo di scrivere e pensare insieme a un’AI, sono disponibile a parlarne.
Il profilo medio: cosa misura la scienza quando a scrivere non sei più tu
Il pezzo di Dan Williams(1) rafforza la necessità del suo modo di pensare, quello della filosofia, negli ambiti di interazione con l’AI.
Cita Herbert Simon(2), che negli anni Sessanta spiegava perché i sistemi complessi restano comprensibili: le loro parti interagiscono abbastanza debolmente da poter essere studiate una alla volta, “quasi-decomponibilità”.
È lo stesso principio per cui un economista può ignorare la biologia e un fisico può ignorare la politica, e il sapere avanza lo stesso.
Williams sostiene che l’AI sta rompendo proprio questa debolezza delle interazioni: tutto comincia a interagire con tutto, e troppo in fretta perché le discipline restino separate come stanze con le porte chiuse.
Il suo esempio più tagliente è Geoffrey Hinton(3), che nel 2016 disse di smettere di formare radiologi perché l’AI li avrebbe presto superati nella lettura delle immagini. Aveva competenza tecnica reale. Ma aveva anche un modello ingenuo di come funziona il lavoro, le professioni, la burocrazia che rallenta ogni tecnologia.
Dieci anni dopo i radiologi ci sono ancora, e la domanda per il loro lavoro è aumentata.
Non è un aneddoto increscioso isolato:
è la prova che la competenza tecnica, da sola,
in un campo che ha smesso di essere decomponibile,
produce previsioni sbagliate
con la stessa sicurezza di quelle giuste
Chi scrive, non solo chi guarda
Se questo è vero per chi guarda l’AI dall’esterno, lo è ancora di più per chi la usa ogni giorno per scrivere.
Un gruppo di ricercatori dell’University of Southern California, guidato da Zhivar Sourati(4) insieme a Farzan Karimi-Malekabadi, Meltem Ozcan e altri sei coautori, ha pubblicato nel febbraio 2025 uno studio in quattro parti su cosa succede alla scrittura quando la affidiamo a un LLM (Large Language Model, cioè un modello linguistico di grandi dimensioni come quelli alla base di ChatGPT o Claude).
su cosa succede alla scrittura quando la affidiamo a un modello linguistico.
Il primo studio mostra che dal lancio di ChatGPT, il 30 novembre 2022, la varianza stilistica è scesa in modo misurabile su Reddit, su un aggregatore di notizie locali americane e sui riassunti dei paper di arXiv, e che il tasso di uso dell’AI precede statisticamente quel calo, non lo segue soltanto.
Il secondo studio lo conferma sperimentalmente: fatti riscrivere mille testi da tre modelli diversi con un comando neutro, “riscrivi“, “correggi la sintassi“, il significato resta intatto in più dell’87% dei casi, ma la varianza stilistica crolla comunque, testo dopo testo.
Chi scompare quando scrive l’AI
Il terzo studio è quello che mi ha convinta di più.
I ricercatori hanno addestrato classificatori a riconoscere età, genere, orientamento politico, personalità, empatia e moralità di un autore dal solo modo in cui scrive, poi hanno applicato quegli stessi classificatori ai testi dopo che un’AI li aveva riscritti.
La capacità di riconoscere l’età crolla da un F1 di 0,351 a 0,260; l’empatia da 0,657 a 0,603; la moralità da 0,640 a 0,578.
E non è un rumore casuale:
il testo riscritto dall’AI viene sistematicamente letto
come scritto da qualcuno più anziano, più uomo,
politicamente più progressista,
con una moralità più positiva ma con meno empatia.
Il quarto studio arriva al lessico preciso che si perde: pronomi, imprecazioni, parole legate alla morte, intercalari colloquiali, “ehm”, “boh”, spariscono; le parole di emozione positiva e il linguaggio prosociale aumentano.
Gli autori collegano questo effetto non a un errore, ma alla stessa fase di addestramento, allineamento tramite feedback umano, pensata per rendere un modello educato e prudente e che finisce per levigare esattamente i tratti che portano una firma.
Il criterio non è nell’AI.
È in chi scrive.
Finché qualcuno non fa collassare il ventaglio,
restano solo possibilità:
il pensiero si vede soltanto dopo, in una sola direzione.
Infine, ci tengo a sottolineare che anche gli autori dell’articolo affermano esplicitamente che tutto ciò non è neutro.
Già nell’apertura dell’abstract scrivono – nella mia traduzione:
“La lingua è molto più di uno strumento di comunicazione. Attraverso i marcatori linguistici si può ricavare una grande quantità di informazioni – incluse, ma non limitate a, l’identità, gli stati psicologici e i contesti sociali di chi la usa – e queste informazioni vengono sfruttate regolarmente in campi diversi, dallo sviluppo di prodotti e dal marketing alla sanità.“
E, a conclusione dei risultati, ribadiscono – sempre nella mia traduzione:
“I nostri risultati evidenziano un’ampia gamma di rischi legati all’omogeneizzazione linguistica, tra cui il compromettersi dei processi diagnostici e degli sforzi di personalizzazione, l’aggravarsi di divari e barriere esistenti verso l’equità in contesti come la selezione del personale – dove la lingua gioca un ruolo critico nella valutazione delle qualifiche dei candidati, delle loro capacità comunicative e della loro compatibilità culturale – e l’indebolimento degli sforzi di preservazione culturale.“
Ancora una volta, e come sempre,
conta la strada che componiamo insieme,
se ciascuno, con la propria fatica,
porta davvero ciò che può di proprio, di assolutamente personale,
derivato dal proprio vissuto che ne modella il vivere adesso,
dalla biografia quindi, incarnata proprio come la scrittura.
(1) Dan Williams, Assistant Professor in Philosophy all’Università del Sussex, Associate Fellow al Leverhulme Centre for the Future of Intelligence di Cambridge. Scrive la newsletter Conspicuous Cognition.
(2) Herbert Simon (1916-2001), premio Nobel per l’Economia nel 1978, fra i padri fondatori dell’intelligenza artificiale e delle scienze cognitive, alla Carnegie Mellon University.
(3) Geoffrey Hinton, Turing Award nel 2018, considerato uno dei padri del deep learning; ha lasciato Google nel 2023 per poter parlare liberamente dei rischi dell’AI.
(4) Zhivar Sourati e otto coautori, nel gruppo di ricerca di Morteza Dehghani, professore di psicologia e informatica alla University of Southern California, dove dirige il Center for Computational Language Sciences.
