In che modo etica, tecnologia e scienze umane possono dialogare per affrontare le sfide del digitale? In questa intervista, Francesco Striano esplora il tema con Erich Prem, informatico e filosofo, tra i protagonisti dell’umanesimo digitale in Austria. Partendo dal Manifesto di Vienna, discutono del rapporto tra progresso tecnologico e valori umanistici, del ruolo della regolamentazione e della necessità di un approccio interdisciplinare per progettare un futuro digitale più equo e sostenibile.
Francesco Striano
Per me è un vero piacere avere l’occasione di intervistare una delle figure chiave della Digital Humanism Initiative. Non vedo l’ora di sviscerare temi cruciali per il nostro presente e futuro di convivenza con la tecnologia e scambiare opinioni sul ruolo che l’etica e le discipline cosiddette “umanistiche” possono avere nel plasmarli. Le chiederei, però, per prima cosa, di iniziare spendendo qualche parola sul suo ruolo nello sviluppo della discussione sull’umanesimo digitale in Austria, con particolare riferimento al Manifesto di Vienna per l’Umanesimo Digitale? E cosa l’ha portata inizialmente a impegnarsi in questo campo?
Erich Prem
Qui a Vienna abbiamo una comunità molto unita che si interessa di umanesimo digitale, nata circa cinque anni fa. L’iniziativa è nata da una conferenza internazionale interdisciplinare, fortemente voluta e guidata da informatici, fatto che ritengo determinante. Il mio ruolo consiste nel tenere un corso sull’umanesimo digitale all’Università Tecnica di Vienna (TU Wien), principalmente a studenti di informatica e ingegneria. Inoltre, faccio parte di un gruppo di ricerca sulla filosofia della tecnologia presso l’Università di Vienna, all’interno del dipartimento di filosofia. Questo è in linea con il mio background, in quanto sono un informatico di formazione con un dottorato in intelligenza artificiale e un secondo dottorato in filosofia.
Insegno anche Data Ethics all’Università di Vienna, il che offre un interessante confronto tra le prospettive tecniche e filosofiche. Inoltre, sono presidente dell’associazione austriaca Digital Humanism (DigHum), che mira a promuovere la ricerca e le iniziative in questo campo. L’associazione si sta espandendo e il prossimo maggio organizzeremo un’importante conferenza sull’umanesimo digitale.
Personalmente mi vedo all’intersezione tra tecnologia e filosofia, un’area cruciale dal momento che entrambi i campi spesso faticano a comprendersi a vicenda. Il mio obiettivo è quello di colmare questo divario. Dal mio punto di vista, è importante riconoscere che l’umanesimo digitale è in gran parte guidato da ingegneri insoddisfatti dello stato attuale della tecnologia. Tuttavia, è altrettanto fondamentale riconoscere il contributo di altre discipline, come i Science and Technology Studies (STS) e la filosofia, che da tempo si occupano di questi temi.
In definitiva, è essenziale migliorare il rapporto tra questi campi. Sebbene l’analisi critica sia importante, abbiamo bisogno di proposte pratiche per migliorare e rimodellare la tecnologia. Qui a Vienna si sta facendo molto in questo campo e sarei felice di discuterne ulteriormente.
F.S.
Partendo da quest’ultimo punto, potrebbe condividere alcuni esempi in cui la collaborazione interdisciplinare risulta fondamentale per affrontare le sfide poste dalla tecnologia digitale? Inoltre, lei ha detto che l’umanesimo digitale austriaco è in gran parte guidato da informatici e ingegneri. Sono d’accordo, ma il Manifesto di Vienna per l’Umanesimo Digitale enfatizza valori fondamentali profondamente filosofici. Come definirebbe questi valori fondamentali e li vede come principi filosofici applicati alla tecnologia o sono emersi anche all’interno del settore tecnologico stesso?
E.P.
Comincerei con la seconda domanda sui valori. L’umanesimo digitale nasce dalla consapevolezza che ci troviamo di fronte a una situazione molto frammentata e complessa in cui si intrecciano questioni tecnologiche, etiche e sociali. La privacy è collegata alla sorveglianza. La sorveglianza è collegata alla costruzione dell’identità delle persone. Tale costruzione è a sua volta collegata alla costruzione dei modelli di IA. I modelli di IA sono collegati al settore pubblicitario, ai grandi monopoli tecnologici e alle questioni geopolitiche. Quindi, dobbiamo comprendere l’intersezione di tutti questi aspetti e l’idea dell’umanesimo digitale è di farlo innanzitutto mettendo l’umano al centro. Ecco perché si chiama umanesimo e perché spazia dalla sorveglianza digitale alla geopolitica, ai monopoli delle grandi aziende tecnologiche e alle sfide etiche legate all’IA. Le nostre linee guida etiche si basano sui progressi compiuti, soprattutto in Europa, in materia di diritti umani e sui valori illuministici.
Alcuni hanno criticato tanto l’Illuminismo quanto l’umanesimo da un punto di vista filosofico, il che può anche essere giusto. Dobbiamo tenere conto dell’ambiente e della diversità delle persone e dei gruppi, non concentrarci solo sull’“uomo”. È anche importante mettere in discussione l’idea che il progresso tecnologico sia un bene assoluto. La maggior parte degli umanisti digitali, ad esempio, non sono transumanisti e molti di noi trovano l’idea piuttosto estrema.
I nostri valori sono radicati nell’umanesimo e nell’Illuminismo – principi come libertà, uguaglianza e fraternità. Crediamo in una società liberale che progredisce attraverso la ragione e la scienza, siamo anche tendenzialmente ottimisti nei confronti del progresso tecnologico. Tuttavia, riconosciamo che non tutto può essere risolto dalla tecnologia e che ci sono dei limiti da rispettare: molti problemi che viviamo oggi sono il risultato di una “cattiva tecnologia”. La tecnologia potrebbe essere molto migliore.
Per quanto riguarda la domanda sulla collaborazione interdisciplinare, la privacy è un ottimo esempio. Spesso trattata come una questione legale, la privacy è anche un concetto profondamente filosofico legato alla dignità umana e all’individualità. Senza privacy, rischiamo di perdere di vista cosa significhi essere individui umani. I recenti sviluppi tecnologici offrono modi migliori per proteggere la privacy, ma richiedono un sostegno politico e la comprensione da parte dell’opinione pubblica che tecnologia e privacy possono coesistere.
Questo approccio è molto produttivo, ma richiede anche tempo. Dobbiamo ascoltare gli esperti legali, il che può essere noioso, e capire come ragionano. Ma anche loro ascoltano gli esperti di tecnologia e sono molto interessati a ciò che la tecnologia può fare. Questo scambio può portare allo sviluppo di nuovi concetti, in particolare in aree come i software AI based per il contracting, che richiedono una riflessione sia giuridica che filosofica. Gli ingegneri non solo elaborano queste idee, ma contribuiscono anche a delineare lo spazio di progettazione di ciò che è possibile. Uno dei risultati interessanti del lavoro interdisciplinare è che le altre discipline iniziano a comprendere la necessità di avere una conoscenza della tecnologia. Senza di essa, l’attenzione rimane concentrata sui problemi del passato, invece di concentrarsi sul potenziale di ciò che può essere ancora realizzato. Molte tecnologie esistono già, ma non vengono utilizzate correttamente.
La discussione sull’equità nei sistemi basati sull’IA è un altro buon esempio in cui il lavoro interdisciplinare è fondamentale. L’equità è un concetto complesso – non si può ridurre l’equità a una formula matematica – che dipende dal contesto ed è intrinsecamente politico. Informatici, filosofi, economisti e scienziati sociali devono collaborare per capire cosa sia ragionevole e realizzabile affinché i sistemi di IA trattino le persone in modo equo.
F.S.
Le sue parole mi ricordano quelle del filosofo francese Gilbert Simondon, che una volta, in un’intervista alla televisione canadese, ha detto che non siamo in una società troppo tecnologizzata, ma in una società mal tecnologizzata. Lei ha sollevato alcune questioni molto interessanti: da un lato sottolinea i valori fondamentali dell’Illuminismo, ma dall’altro riconosce anche che la tecnologia stessa porta nuovi problemi e questioni etiche che devono essere affrontate.
Ha anche toccato un punto importante: ci vuole tempo per ascoltare gli esperti legali ed etici. Alcuni potrebbero criticare l’umanesimo digitale per la difficoltà di convincere le aziende, soprattutto quelle che si occupano di IA, ad allinearsi ai principi umanistici, in quanto ciò potrebbe incidere sui margini di profitto. Queste aziende, infatti, potrebbero sostenere che tali principi, per certi aspetti, rallenterebbero l’innovazione. Spesso sentiamo di aziende del settore tecnologico i cui rappresentanti affermano che l’innovazione si muove più velocemente delle nostre discussioni etiche. Come risponderebbe a queste critiche?
E.P.
ci sono diversi punti da affrontare. Naturalmente, c’è la solita critica, spesso riassunta dal mantra della Silicon Valley: “move fast and break things”. Questa idea suggerisce che l’innovazione non deve essere rallentata e che la regolamentazione ostacola il progresso. Credo che questa sia solo una narrazione costruita per mantenere i potenti al potere.
Uno dei valori fondamentali dell’umanesimo digitale è il suo tecno-ottimismo. Crediamo che la tecnologia sia fondamentalmente una cosa buona e che possa essere costruttiva. Anche se ci possono essere dei limiti a ciò che vogliamo ottenere con essa, in linea di principio non c’è contraddizione tra innovazione e umanesimo digitale. Anzi, il contrario. La differenza fondamentale è che noi non vediamo la tecnologia come un destino. Ci poniamo domande cruciali: Chi detiene il potere? Chi guida l’innovazione? È il tipo giusto di innovazione? Queste domande non sono solo lecite, ma necessarie.
Le innovazioni devono dimostrare di non essere solo orientate al mercato, ma di rappresentare un vero progresso. Il progresso viene valutato politicamente e, si spera, democraticamente. Anche se una tecnologia è popolare sul mercato, non dovrebbe essere diffusa se è dannosa e la società decide, democraticamente, di limitarla. Questo ci riporta a un discorso sui valori e sulle priorità della società. Abbiamo una tecnologia incredibile, ma la stiamo usando per combattere la povertà? Per dare voce a tutti? Per dare veramente potere alle persone? Ne dubito. La tecnologia potrebbe essere utilizzata in modo molto più efficace per questi scopi, anche se ciò potrebbe significare limitare il potere delle grandi aziende tecnologiche.
È interessante notare che anche alcune delle stesse grandi aziende tecnologiche hanno dei dubbi. Molte di loro preferirebbero contribuire a un vero progresso, piuttosto che limitarsi a proporre più pubblicità o raccomandazioni di prodotti. Si tratta quindi di cambiare la narrazione. Dobbiamo recuperare il controllo e ricordare che la tecnologia non è un destino. È qualcosa che plasmiamo in base ai nostri valori e alle nostre esigenze.
F.S.
L’umanesimo digitale si posiziona piuttosto chiaramente come un’impresa progressista. Tuttavia, vorrei che affrontassimo un’altra potenziale critica che lei ha menzionato in precedenza. Valori come il progresso, l’Illuminismo e la democrazia sono spesso considerati occidentalocentrici. Una critica spesso rivolta al termine “umanesimo” è che storicamente è stato legato a iniziative che escludono alcuni gruppi. In che modo il movimento umanista digitale si assicura di rimanere inclusivo e rappresentativo a livello globale?
E.P.
Questa critica, radicata principalmente nella prospettiva di Adorno e Horkheimer sull’umanesimo, era valida e interessante all’epoca in cui è stata introdotta – anche se, personalmente, credo che fosse ampiamente esagerata anche allora. Spesso i critici si riferiscono a una caricatura dell’umanesimo, sottintendendo che, essendo stato promosso prevalentemente da filosofi europei (maschi), escludeva di per sé tutti gli altri. Tuttavia, questo non contraddice gli argomenti più ampi e inclusivi che questi filosofi hanno elaborato sull’umanità, che comprendono le donne e le persone provenienti da altri continenti.
Nell’umanesimo digitale ci sforziamo attivamente di amplificare le voci provenienti da diverse regioni, tra cui l’Africa e il Sud America. Per esempio, sono rimasto piacevolmente sorpreso nel vedere quanto sia attiva la comunità dell’umanesimo digitale in Sud America quando ho partecipato alla quinta conferenza sull’umanesimo digitale l’anno scorso. Questo dimostra che il movimento si estende ben oltre il contesto europeo.
Inoltre, l’umanesimo digitale affronta questioni globali critiche come la sostenibilità ambientale ed energetica, che sono vitali per tutti. Forse una definizione filosoficamente più accurata del nostro approccio potrebbe essere “post-umanesimo digitale”, ma tale termine potrebbe generare ancora più confusione o risultare più problematico. In definitiva, l’attenzione dovrebbe concentrarsi sulle azioni e sugli obiettivi dell’umanesimo digitale piuttosto che sui limiti della sua terminologia.
F.S.
Questo è un punto interessante perché, quando ci si riferisce all’umanesimo, alle sue azioni e ai suoi obiettivi, ci si dovrebbe anche chiedere a quale tipo di umanesimo ci si riferisce esattamente. Lei ha già detto che si riferisce principalmente all’umanesimo illuminista, con opportune correzioni “post-umane”. Ma c’è anche l’umanesimo rinascimentale e persino nell’antichità esistevano forme di “umanesimo”, come la paideia greca e l’humanitas latina. A proposito di questo argomento, vorrei chiederle se conosce l’approccio all’umanesimo digitale sviluppato al Collège des Bernardins, a partire dai lavori di Milad Doueihi e poi ampliato dal dipartimento Humanisme Numérique del Collège des Bernardins.
E.P.
Naturalmente conosciamo il lavoro di Milad Doueihi e abbiamo anche avuto il piacere di incontrarlo qui a Vienna. Un’esperienza fantastica che ha portato a una discussione arricchente. Tuttavia, abbiamo meno familiarità con ciò che è stato sviluppato al Collège des Bernardins dopo il suo coinvolgimento, il che è un peccato. Sarebbe davvero utile rafforzare questo legame e promuovere una maggiore collaborazione.
Dal nostro punto di vista, sembra che il loro approccio sia profondamente radicato non tanto nell’umanesimo in sé, quanto piuttosto nelle scienze umane, incorporando gli strumenti digitali in quel quadro. Questo si allinea in qualche modo a ciò che viene spesso definito digital humanities, ovvero l’uso di strumenti informatici per studiare le materie umanistiche. Tuttavia, il lavoro di Milad Doueihi va oltre, estendendosi in aree che risuonano più strettamente con il nostro focus sull’umanesimo digitale.
F.S.
In realtà anche il lavoro del Collège si spinge in una direzione simile. Recentemente, il dipartimento Humanisme Numérique ha pubblicato online un position paper in tre lingue: italiano, francese e inglese. Ovviamente le raccomando di leggerlo direttamente, ma, nel frattempo, posso provare a riassumerne i punti principali: il documento descrive il loro approccio come più filologico, legato alle scienze umane e a una prospettiva materialista. Questo approccio si concentra sull’analisi dei prodotti culturali digitali e sul trarre linee guida etiche da tale analisi. Un approccio, insomma, più bottom-up. Al contrario, l’approccio di Vienna potrebbe essere visto come più top-down, partendo dall’identificazione dei valori fondamentali per poi applicarli alla tecnologia o preservarli attraverso un corretto uso della stessa.
Una cosa che volevo chiederle è se pensa che la differenza tra questi approcci derivi dal background dei loro proponenti. Al Collège l’input è stato dato da filosofi, teologi e storici come Milad Doueihi, mentre a Vienna i maggiori promotori sono stati informatici e ingegneri.
E.P.
Sì, sono d’accordo con questa analisi. Credo che sia abbastanza accurata. Probabilmente ciò deriva dai diversi background e dalle diverse metodologie. Per esempio, se si analizzano le reti di attori, come nella actor-network theory (ANT) di Bruno Latour, ha senso adottare un approccio bottom-up. Questo è tipico anche degli STS, che spesso procedono in questo modo.
Nel nostro caso, è giusto dire che adottiamo un approccio top-down, perché ci occupiamo molto di regolamentazione e politica. Pur non essendo un movimento strettamente politico, riconosciamo che molte delle sfide che affrontiamo hanno dimensioni politiche. È qui che entrano in gioco la valutazione della società e i benefici per la società.
A livello individuale, i vantaggi della tecnologia digitale sono ampiamente riconosciuti. Tuttavia, le questioni più importanti sorgono quando si considera l’impatto sulla società nel suo complesso. La società deve avere voce in capitolo in queste questioni. La nostra enfasi sulla politica e sulla regolamentazione riflette il coinvolgimento di pensatori politici ed esperti legali nel nostro gruppo. Abbiamo molti avvocati che si concentrano sugli aspetti legali e normativi, il che rafforza ulteriormente questo approccio top-down.
F.S.
L’istruzione è un tema ricorrente nel Manifesto di Vienna. Che ruolo ha per lei?
E.P.
L’istruzione è fondamentale perché le università si trovano in una posizione unica per valutare e mettere in luce i problemi della società, soprattutto per quanto riguarda la tecnologia. La sfida delle tecnologie digitali di oggi, come i large language models (LLMs), è che sono incredibilmente complesse e richiedono molte risorse. Ad esempio, nessuna università in Europa, e forse nemmeno negli Stati Uniti, ha la capacità di addestrare questi modelli da zero. Ciò crea un problema significativo, poiché dobbiamo comprendere e affrontare le implicazioni di tali tecnologie. Lasciare questo compito solo a una manciata di aziende tech non è un’opzione; le università devono svolgere il loro ruolo nel garantire una supervisione e una comprensione più ampie da parte della società.
F.S.
Grazie mille! Credo che questa sia stata una conversazione davvero stimolante e ricca di spunti. Prima di concludere, c’è qualcosa che non abbiamo trattato e che lei ritiene fondamentale per comprendere o far progredire l’umanesimo digitale? Ci sono osservazioni finali che vorrebbe condividere?
E.P.
Penso che abbiamo trattato molto e affrontato i punti più importanti. Vorrei solo aggiungere che la cosa più bella qui a Vienna è che abbiamo il sostegno di un gruppo molto eterogeneo di persone. Non si tratta solo di accademici. Per esempio, il panorama politico austriaco ha abbracciato il concetto di umanesimo digitale. Il nostro ministro degli Affari esteri lo sta utilizzando a livello internazionale, in particolare nelle discussioni sulla politica europea con altri Paesi. C’è stato un incontro tra i rappresentanti di Slovacchia, Repubblica Ceca e Austria, che si è concluso con una dichiarazione congiunta sull’umanesimo digitale.
Si tratta di uno sviluppo interessante. L’umanesimo digitale è entrato in alcuni programmi politici a Vienna e nell’ormai uscente governo austriaco. A livello di Commissione europea, siamo persino riusciti a pubblicare un bando, che a mio avviso ha avuto molto successo. Attualmente stiamo assistendo a un’ulteriore diffusione del concetto. Stanno nascendo cattedre a Berlino e in altri Paesi e i nostri libri in open access sono stati scaricati più di un milione di volte. Speriamo che qualcuno li abbia letti davvero! [ride] In ogni caso questo dimostra che c’è un interesse genuino. Le persone si stanno impegnando, vogliono vedere crescere questo movimento.
È emozionante e siamo entusiasti di poter stringere nuovi legami con voi al Collège, in Italia e con altri gruppi in tutto il mondo. È essenziale. Dobbiamo fare dell’umanesimo digitale un vero movimento globale.
Immagini generate tramite DALL-E
