L’intelligenza artificiale e (è?) il talismano

1. Dal talismano dell’“umano che controlla” all’“IA che giustifica”

Nel quadro delineato da Cosimo Accoto (Il pianeta latente. Provocazioni della tecnica, innovazioni della cultura), il digitale non è più mera rappresentazione ma operatività: testi e immagini innescano processi tra macchine, modelli, attuatori; molte decisioni maturano in reti socio-tecniche dove l’“occhio umano” è laterale. In tale cornice, il ricorso al human in the loop funziona spesso come formula apotropaica: un “umano-talismano” evocato a scopo rassicurante anche quando il controllo è intermittente o simbolico.

Accanto al richiamo retorico al controllo umano si afferma l’IA-talismano: l’efficacia di un sistema viene trattata come se fosse criterio del giusto. Nella prassi (“lo dice il modello”) l’output tende a valere come sigillo di legittimità: riduce l’ambivalenza, canalizza la fiducia e fa scivolare l’efficacia in criterio. Alla formula “c’è l’uomo che controlla” si accompagna “c’è l’algoritmo che garantisce”.

Che cosa si intende qui per “talismano”. Non un portafortuna magico, ma un dispositivo di rassicurazione pratica con due effetti: (1) un effetto-scudo (“c’è un presidio, dunque possiamo fidarci”); (2) un effetto-delega, per cui standard, protocolli e modelli acquisiscono un’autorità di fatto nelle decisioni. Questo non nega la crescente autonomia operativa dei sistemi (capacità di agire senza intervento umano); la distingue però dall’autonomia normativa (potere di fissare i fini e attribuire responsabilità). L’argomento di questo testo riguarda quest’ultimo piano: evitare che la prestazione tecnica si trasformi, senza dibattito, in criterio di giustezza.

2. Perché l’appello all’umano non è un talismano

Non c’è un “umano-talismano” se umano significa misura dell’esperienza e dignità della persona. In questa prospettiva — che richiama Splendori e miserie delle intelligenze artificiali. Alla luce dell’umana esperienza di Francesco Varanini — “mettere al centro l’umano” vuol dire:

Valutare sugli effetti: giudicare i sistemi per impatti su vite e istituzioni, non per la fluenza della parola artificiale.
Preservare la relazionalità: pratiche come cura, educazione, giustizia dipendono da prossimità, ascolto, riconoscimento.
Deliberare i fini: valori pubblici (bene comune, equità, inclusione) non si deducono dalla performance tecnica, ma si discutono e si assumono.

Questa centralità non è nostalgia, ma criterio regolativo: stabilisce quando e come l’IA serve davvero la persona e la comunità. Nessuna santificazione delle forme attuali: ogni configurazione, anche potenziata dall’IA, va riformata quando non promuove effettivamente persone e istituzioni; il riferimento sono fini e limiti espliciti, non il “com’era prima”.

3. Come funziona l’“IA-talismano”

Quando la metrica diventa norma, l’efficienza sostituisce il fine. Si pensi a un risk scoring sanitario che riduce la presa in carico e riconosce pattern rari: il guadagno è reale e va colto. Ma se la metrica diventa norma (“se ottimizza, allora è giusto”), si offuscano domande essenziali: chi è favorito o escluso? quale costo relazionale produce? quali fini stiamo massimizzando?

Qui la lettura di Domenico Talia (La società calcolabile e i big data. Algoritmi e persone nel mondo digitale) è dirimente: gli algoritmi orientano decisioni, non comprendono significati; trattano il quantitativo, non esauriscono il qualitativo. Ed è utile ricordare un paradosso: quando l’indicatore diventa bersaglio, rischia di sostituirsi al fine. L’efficienza vale solo se misurata rispetto a fini dichiarati e pluralmente giustificati; altrimenti ottimizza ciò che è facile contare e trascura ciò che conta. Proprio dove il valore è relazionale, la scorciatoia performativa produce le perdite più grandi: la democrazia si impoverisce quando i conflitti di valore si riducono a differenze di confidenza statistica.

4. La parte vulnerabile del mondo

Quando la relazione è parte costitutiva del servizio — sanità, scuola, assistenza sociale, giustizia — l’IA-talismano rischia di produrre perdite di senso sotto forma di efficienza. Il caso sanitario è esemplare: piattaforme di telemedicina, sistemi di predizione dei rischi e robotica di supporto possono allargare l’accesso e ridurre i tempi, ma se sono progettati solo sulla base di metriche tecniche finiscono per sostituire momenti di ascolto, continuità di cura e possibilità di contestare gli esiti. È questo il nucleo messo in luce da Vulnerabilità digitale. Etica, Intelligenza Artificiale e medicina di Silvia Dadà: la vulnerabilità è la condizione comune (malattia, età, solitudine, barriere linguistiche, povertà digitale) da cui occorre partire per disegnare i servizi.

In pratica, “mettere la vulnerabilità al centro” significa:

co-progettare con gli utenti più fragili i percorsi digitali (interfacce leggibili, canali alternativi non digitali, tempi di risposta reali);
garantire continuità e prossimità: punti di contatto umano (telefono, sportello, visite), non solo chat e moduli;
attivare canali di ricorso effettivi quando l’algoritmo sbaglia o esclude, con tempi e responsabilità chiare;
valutare non soltanto precisione e costi, ma anche qualità relazionale e carico emotivo generato dal sistema (quanto lascia soli, quanta ansia genera, quanto sostiene l’autonomia).

Che cosa non significa “vulnerabilità”. Non è elogio del dolore né culto della mancanza: è un dato progettuale per ridurre dolore e rischio. Riconoscerla serve a prevenire esclusioni, contenere danni e rafforzare l’autonomia reale di chi usa i servizi. Anche l’efficienza ne beneficia: sistemi disegnati sulle situazioni più esposte evitano costi di correzione (errori, abbandoni, contenziosi) e stabilizzano i risultati.

5. Spiegazione contro aura: la via intermedia delle “scatole grigie”

Di fronte ai modelli opachi (“scatole nere”) non basta invocare trasparenza in astratto. La spiegazione deve abilitare azioni: capire, correggere, sospendere. In L’intelligenza creata. L’AI e il nostro futuro, Alfio Quarteroni propone una via intermedia: le “scatole grigie”, in cui conoscenze di dominio (leggi, vincoli, modelli causali) e apprendimento dai dati sono integrati. Non è un compromesso estetico: è ciò che permette di capire abbastanza per governare.

Tradotto operativamente:

prima si chiariscono struttura, vincoli e quantità che devono valere (es. limiti fisiologici, norme tecniche, soglie di sicurezza); poi il modello apprende dai dati ciò che resta incerto;
l’esito è accompagnato da motivi controllabili (variabili decisive, margini d’errore, condizioni al contorno) e da azioni possibili: che cosa può fare il medico, l’insegnante, l’operatore per confermare, correggere, sospendere;
si apre la negoziabilità degli obiettivi: se la metrica ottimizzata non corrisponde più al fine (per esempio massimizza la velocità ma peggiora la presa in carico), si riimposta il modello senza buttare via tutto;
si definiscono linee di responsabilità: chi risponde dell’errore, con quali tempi di revisione, quali evidenze servono per il ricorso.

Le “scatole grigie” trasformano la trasparenza da slogan a strumento pratico: non smascherano tutta la complessità (nessun modello lo fa), ma rendono comprensibili e correggibili le parti che contano per chi deve prendersi cura, insegnare, decidere. Così l’IA perde l’aura di talismano e diventa mezzo affidabile, integrato in processi in cui la legittimità viene da fini dichiarati, ragioni condivise e possibilità concreta di intervento.

6. In dialogo con Maurizio Mori

Nel suo articolo “Non basta rispettare l’intimior: l’IA come realtà autonoma” (2 luglio 2025), Maurizio Mori sostiene che le rivoluzioni tecniche non aggiungono soltanto potenza: trasformano l’umano; che il richiamo all’interiorità rischia di diventare una difesa identitaria; e che, crescendo in capacità, i sistemi di IA potrebbero “produrre senso”, fino a rivendicare un riconoscimento di statuto — persino sostituendo l’essere umano in alcune funzioni oggi ritenute proprie.

Si propone qui un diverso criterio di valutazione. Richiamare l’umano non è un talismano, ma il metro con cui giudicare l’uso della tecnica: dignità della persona, qualità dell’esperienza, bene comune. Nell’impostazione di Mori, invece, la fiducia nella capacità evolutiva della tecnica tende a diventare norma: dalla prestazione si risale alla legittimazione (“funziona, dunque vale”), fino a contemplare una parità distatuto decisionale tra umano e macchina là dove si decide il senso delle azioni. In questo passaggio la descrizione della trasformazione rischia di diventare prescrizione: è la tecnica a dettare le regole.

Chiarezza sulla libertà. Qui non si invoca il liberum arbitrium indifferentiae. La libertà che interessa alla vita civile è pratica: agire per ragioni in spazi pubblici di giustificazione; promettere, rispondere, riparare. Anche chi adotta un’impostazione più deterministica riconosce che pratiche di responsabilità (impegni, obblighi, ricorsi) sono indispensabili alla convivenza civile. Non si rivendica un privilegio metafisico: è la nostra condizione corporea e mortale a dare spessore a responsabilità e ricorso, perché le scelte espongono a rischio, perdita e irreversibilità in un tempo finito.

La posizione di Mori, pur diversa dalla narrazione singolaritaria di Ray Kurzweil (La singolarità è più vicina. Quando l’umanità si unisce con l’AI), le è contigua su un punto decisivo: ammette che l’IA possa aspirare a una parità di statuto nelle funzioni di “senso”. È precisamente qui che si dissente, perché si ritiene che libertà e responsabilità siano collegate a corpo e finitudine, condizioni non trasferibili alla macchina. In questa luce, “l’umano al centro” non è un amuleto identitario: è il criterio regolativo che tiene insieme libertà, responsabilità e bene comune dentro la nostra condizione di esseri vulnerabili e mortali — precisamente ciò che la fiducia normativa nella tecnica non può sostituire.

Le premesse, dunque, divergono: qui si afferma che i criteri non derivano dalla prestazione tecnica, mentre per Mori la trasformazione tecnologica può ridefinirli. Da tale scarto discendono conclusioni differenti.

Conclusioni

Spezzare l’incantesimo non significa contrapporre un altro amuleto, ma togliere l’aura: trattare l’IA non come oracolo, bensì come mezzo che deve rendere ragioni in modo verificabile. Ciò implica un passaggio di statuto: dall’“algoritmo che garantisce” al criterio pubblico che giustifica. Il punto non è quanto la macchina funzioni, ma per che cosa e per chi la facciamo funzionare.

La libertà che conta per la vita civile non è un calcolo ben riuscito: nasce nei corpi e nel tempo finito, dove si promette, si sbaglia, si ripara. Anche se l’IA simula memoria, scopi, narrazioni, non porta su di sé il rischio della perdita, né abita l’attesa: per questo non prende il posto della decisione umana, ma può accompagnarla, se posta sotto fini e limiti deliberati.

In questa prospettiva è utile la cornice storica richiamata da Yuval Noah Harari (Nexus. Breve storia delle reti di informazione dall’età della pietra all’IA): le reti dell’informazione non si limitano a trasmettere dati, ma organizzano l’autorità. Quando un’infrastruttura diventa dominante, i formati e i protocolli che essa impone tendono a trasformare la misura in norma: ciò che è facilmente misurabile e standardizzato appare “ovvio” e finisce per dettare le regole. È precisamente il meccanismo dell’IA-talismano: l’output, perché aderente allo standard di rete, viene trattato come se avesse legittimità propria. Ma la lezione di Harari è anche un avvertimento: nessuna rete legittima da sola i propri esiti. Serve riportare l’autorità a criteri pubblici — fini dichiarati, ragioni esposte, responsabilità nominabili — così che l’infrastruttura resti mezzo e non diventi sostituto della deliberazione umana.

In questa luce, “l’umano al centro” non è un talismano identitario: è il nome della responsabilità che orienta mezzi potenti verso beni discutibili e condivisi; è distinguere prestazione e valore, esigere ragioni, aprire spazi effettivi di contestazione. Così l’IA smette di chiedere investiture carismatiche e diventa bene comune: uno strumento capace di allargare possibilità senza occupare il senso, di accelerare senza cancellare la sosta, di suggerire senza decidere al nostro posto.