Dal 2 agosto l’AI Act, che norma l’uso dell’intelligenza artificiale nell’Unione Europea, entra davvero nella nostra vita quotidiana.
In estrema sintesi, fa tre cose.
-
Vieta alcuni usi dell’AI considerati incompatibili con la dignità giuridica e i diritti fondamentali
Tra gli usi vietati rientrano i sistemi di punteggio sociale gestiti dallo Stato; la manipolazione dannosa delle persone attraverso lo sfruttamento delle loro vulnerabilità; la sorveglianza di massa basata sui dati biometrici; la raccolta di immagini dei volti per creare grandi banche dati; il riconoscimento delle emozioni nei luoghi di lavoro e nelle scuole; alcune applicazioni usate per controllare le migrazioni e le frontiere. La legge considera tutte queste applicazioni una minaccia diretta alla dignità giuridica della persona, e le proibisce. -
Regola i sistemi ad alto rischio
L’AI usata nel lavoro – per assumere, valutare o licenziare –, nel credito, nella scuola, nella sanità, nella progettazione e gestione di infrastrutture critiche, nella giustizia, nelle procedure di migrazione e asilo, nei servizi essenziali e nei processi democratici – per esempio elezioni e partecipazione civica – è sottoposta a obblighi stringenti: gestione del rischio, qualità dei dati, tracciabilità, documentazione, supervisione umana e robustezza.
Queste norme iniziano a valere tra il 2026 e il 2028, con scadenze diverse per i sistemi di AI che funzionano in modo autonomo e quelli integrati in prodotti e servizi. -
Introduce obblighi di trasparenza nella comunicazione
Dal 2 agosto 2026 ogni chatbot, cioè un programma con cui si può conversare tramite messaggi o voce, deve informare l’utente che sta interagendo con un sistema di AI, salvo che sia già evidente dal contesto; i contenuti generati dall’AI devono essere segnalati; i deepfake – cioè immagini, audio o video creati o manipolati dall’AI per sembrare reali – devono essere etichettati; e gli usi del riconoscimento delle emozioni o dei dati biometrici devono essere esplicitati alle persone coinvolte
La gran parte degli usi quotidiani dell’AI – strumenti di scrittura, produttività, immagini creative, assistenti personali – resta invece in una zona di rischio limitato o minimo: qui la legge chiede solo qualche obbligo di trasparenza e lascia molta libertà d’uso.
Già da questa fotografia si vede dove cade lo sforzo principale: sulle decisioni che l’AI prende su di noi e su ciò che l’AI fa quando comunica con noi.
Resta molto meno esplorato il livello a monte: come sono costruite le regole umane che i sistemi poi applicano.
Ed è proprio lì che si gioca la questione più delicata: chi scrive i criteri, chi li giudica, chi controlla il controllore.
Fiducia, guardrail e dipendenza
Un modo per raccontare questo momento è attraverso la metafora dell’aviazione: “l’aviazione è diventata sicura perché ogni incidente ha creato sistemi migliori; l’AI entrerà nella stessa era e il futuro dell’AI dipenderà non solo dall’intelligenza ma anche dalla fiducia”. La promessa è chiara: ogni fallimento con l’AI sarà occasione di apprendimento, come nei sistemi di sicurezza aeronautica.
Anche il linguaggio ufficiale dell’Unione Europea si muove su questa linea. L’AI Act viene presentato come il primo grande tentativo di costruire un’intelligenza artificiale affidabile, nel senso di giuridicamente corretta, eticamente orientata e tecnicamente robusta; capace di rispettare diritti fondamentali, trasparenza, non discriminazione, responsabilità chiara per sviluppatori e utilizzatori.
In Italia, Paolo Benanti – il frate francescano che è stato consigliere di papa Francesco sui temi dell’intelligenza artificiale e dell’etica della tecnologia – traduce questa scommessa in un’immagine potente: l’AI Act come guardrail a tutela della dignità umana, un dispositivo legale che protegge il soggetto dall’essere ridotto a oggetto nelle decisioni della macchina. La sua algoretica, l’indagine sui problemi etici collegati all’utilizzo dell’intelligenza artificiale, diventa una barriera di sicurezza: non fermare l’innovazione, ma impedirle di travolgere l’umano.
C’è però una tensione geopolitica poco esplicita. L’Europa costruisce un quadro normativo molto sofisticato su una tecnologia che, nella sua forma più avanzata, non controlla davvero: i modelli di frontiera, le grandi infrastrutture cloud, le piattaforme dominanti restano in larga parte statunitensi o cinesi. Noi europei siamo molto bravi a scrivere regole su sviluppi evolutivi altrui, meno bravi a mettere in campo una capacità tecnologica paragonabile.
La fiducia, così, rischia di convivere con una forma di dipendenza. Si rassicurano i cittadini sull’uso dell’AI, ma non si riduce la subordinazione tecnica e geopolitica a sistemi pensati altrove.
L’AI Act è allora un manuale raffinato di convivenza con strumenti che non abbiamo progettato noi: una promessa di sicurezza che lascia gli europei, allo stesso tempo, non del tutto protetti e non del tutto protagonisti.
In altre parole, chiediamo all’AI Act di controllare sistemi che l’Europa non ha costruito, e questo rende ancora più urgente la domanda che attraversa questo saggio breve: chi controlla il controllore?
Non è l’algoritmo a decidere da solo
Quando si dice che l’intelligenza artificiale discrimina, si rischia di spostare il problema nel posto sbagliato. In molti casi, l’algoritmo non inventa la discriminazione: la riceve, la organizza, la rende più efficiente e più difficile da contestare. I criteri di rischio, merito, affidabilità, priorità non nascono dalla macchina, ma da scelte umane precedenti: dai dati raccolti, dalle soglie fissate, dalle variabili ritenute rilevanti, dalle correlazioni trasformate in causalità.
Questo vale ovunque e riguarda l’Italia non meno di altri Paesi. Quando un sistema viene usato per selezionare candidati, valutare merito creditizio, ordinare liste d’attesa, attribuire priorità nei servizi, classificare livelli di rischio o performance, ciò che viene applicato non è una giustizia algoritmica astratta, ma una grammatica decisionale umana già sedimentata nelle istituzioni. I sistemi di AI non fanno che trasformare quella grammatica in procedura, velocità, scala.
Il punto decisivo, allora, non è solo chiedersi se l’algoritmo sia di parte. Bisogna chiedersi: chi ha scritto le regole? Chi decide che cosa conta come segnale di affidabilità, talento, rischio, devianza, idoneità? Chi stabilisce che certe traiettorie biografiche pesano più di altre? Chi seleziona i dati storici da cui il sistema apprende? E soprattutto: chi controlla chi definisce questi criteri?
La vera opacità non sta solo nel modello, ma nel livello più profondo in cui una società decide che cosa considera normale, desiderabile, affidabile o premiabile.
L’AI Act vieta alcune pratiche inaccettabili e impone obblighi di trasparenza e valutazioni d’impatto per i sistemi ad alto rischio. Ma una parte essenziale del problema resta a monte e riguarda la qualità politica, culturale e morale dei criteri umani che i sistemi poi applicano.
Un sistema può essere pienamente conforme alla norma e continuare a produrre esclusione, perché ciò che applica in modo ordinato e tracciabile è una regola già ingiusta, o già cieca rispetto alla pluralità delle vite reali.
Per questo non basta dire che l’AI va controllata. Occorre chiedere chi controlla il controllore, chi valida – senza essere davvero discutibile e contestabile – le metriche con cui si valuta una persona, un cittadino, un lavoratore, un paziente, uno studente. Se questo livello resta intatto, l’algoritmo diventa una copertura perfetta: non sembra più esserci una volontà umana che discrimina, ma solo un sistema che applica criteri oggettivi.
In realtà, l’oggettività è spesso il nome tecnico dato a una decisione umana che non vuole più apparire come tale.
Dignità giuridica, dignità psichica
La dignità di cui parla l’AI Act è una dignità giuridico-antropocentrica: l’essere umano come soggetto di diritti, mai come oggetto di una decisione automatica. Il regolamento insiste sulla protezione dei diritti fondamentali, sul ruolo della supervisione umana, sul divieto di abbandonare completamente le decisioni alla macchina.
Ma la dignità giuridica non coincide con la dignità psichica. Quest’ultima riguarda il modo in cui una persona si sente vista, riconosciuta, accolta nella propria singolarità; la possibilità di non essere ridotta a dato, profilo, punteggio. Una decisione a norma può comunque produrre ferite simboliche profonde: senso di invisibilità, di essere giudicati da un sistema incapace di comprendere una storia, di essere scartati da una procedura in cui il volto dell’altro scompare.
Un sistema di screening dei curriculum perfettamente conforme può essere corretto sul piano giuridico – classificazione ad alto rischio, valutazione dei dati, supervisione umana, informativa ai candidati – e al tempo stesso generare l’esperienza di «non essere mai stato davvero visto». Lo stesso vale per l’accesso al credito, per alcune valutazioni in sanità, per la gestione di liste d’attesa. Un sistema robusto e affidabile secondo i parametri tecnici può produrre una condanna senza volto: «un punteggio ha deciso che non sono affidabile», «un modello ha stabilito che devo aspettare».
La psicoanalisi qui direbbe che la dignità non è solo una questione di diritti formalmente garantiti, ma di posizionamento nel campo simbolico: il soggetto può sentirsi ridotto e messo a tacere se è valutato con criteri che lo rendono asettico, perché non sono in grado di cogliere la sua storia.
L’AI Act protegge la dignità giuridica, ma non può da solo prendersi cura della dignità psichica. E se non si tiene conto di questa differenza, i guardrail rischiano di trasformarsi in gabbie eleganti: norme che parlano di dignità, mentre le persone vivono esperienze di disumanizzazione silenziosa.
Comunicazione ingabbiata, decisioni opache
Su questo sfondo, la frattura dell’AI Act diventa più visibile.
Da un lato, la comunicazione viene normata in modo molto stretto: chatbot dichiarati, contenuti generati marcati, deepfake etichettati, testi su temi di interesse pubblico segnalati come prodotti o manipolati dall’AI. È la parte del regolamento che incontriamo a colpo d’occhio.
Proprio qui nasce una trappola creativa. Ogni espansione della scrittura e dell’immagine con l’AI viene costretta in una griglia di etichette, come se l’unica forma pienamente legittima fosse quella 100% umana o rigidamente dichiarata. La paura di sbagliare o di essere sanzionati può spingere verso contenuti più prudenti, meno sperimentali, meno ibridi, anche quando l’AI potrebbe sostenere una espansione della creatività profondamente incarnata.
Eppure la mediazione tecnica nella scrittura non è una novità. Da anni si usano motori di ricerca per trovare citazioni, occorrenze, riferimenti, dati. Oggi questo appare talmente normale che nessuno si sognerebbe di scrivere in fondo a un articolo “testo realizzato con Google”, e tuttavia anche quella è stata una trasformazione profonda del modo di pensare e di scrivere. La differenza è che il motore di ricerca è diventato invisibile, quasi naturale; l’AI, invece, viene trattata come una mediazione sospetta, da dichiarare ogni volta, come se dovesse restare in una quarantena simbolica.
Nel frattempo, le decisioni che contano – assunzioni, credito, valutazioni, accesso a servizi, allocazione di risorse – restano in grande parte opache. L’AI entra come motore di selezione, ma con criteri decisi da umani, spesso fallaci in quanto influenzati da interessi, simpatie, dinamiche di potere. Il modello quindi può diventare una copertura tecnica: «non è una scelta mia, è il sistema».
Il risultato è una frattura netta: in superficie, una comunicazione stretta da regole che rischiano di ingabbiare l’espansione creativa; in profondità, decisioni affidate a sistemi di AI che applicano criteri umani poco responsabilizzati, protetti da un’aura di oggettività.
In questo quadro, i guardrail di cui parla l’algoretica corrono il rischio di diventare una scenografia etica: una facciata rassicurante di sicurezza e fiducia, mentre la vera partita sulla dignità psichica e politica delle persone si gioca altrove – nel modo in cui si definiscono e si mantengono i criteri di giudizio.
Un’altra idea di AI al servizio dell’umano
Se l’AI è davvero al servizio degli esseri umani, dovremmo usarla dappertutto in modo responsabile: per espandere la creatività mantenendola incarnata, per aprire vie nuove nella ricerca scientifica dove prima sembrava non ci fossero soluzioni e, allo stesso tempo, per rendere più trasparenti e anche modificabili le regole con cui si sceglie nelle procedure che assoggettano politica, sanità, concorsi, lavoro.
Questo significa allora riconoscere che l’AI può entrare come co‑autore senza cancellare il soggetto per realizzare forme ibride di scrittura e immagine; che l’AI si può usare per rendere più leggibili i criteri con cui si selezionano persone e si distribuiscono risorse, anziché per coprire decisioni già prese; e che l’AI possa essere di aiuto a progettare sistemi in cui la supervisione umana non sia solo un requisito formale, ma un vero spazio di responsabilità, in cui si possa riconoscere quando una regola è ingiusta.
Si potrebbe desiderare allora un AI Act che non usi guardrail di facciata per la comunicazione, facendo credere che l’AI sia stata confinata, mentre dietro le quinte tutto resta in mano a criteri umani opachi.
Si potrebbe desiderare un uso dell’AI consapevole per espandere la creatività e rendere più giuste le scelte, senza ingabbiare l’una e occultare le altre.
Tra fiducia e dignità, la domanda resta la stessa:
chi controlla il controllore?
Finché non si risponde a questo livello
– quello dei criteri, delle narrazioni e delle vite che l’AI non fa che classificare –
ogni guardrail rischia di somigliare più a una gabbia elegante che a una protezione.
