L’Università Sapienza di Roma ha sviluppato il primo Language Model “italiano”, ma il problema è che genera testi “tossici” e non moderati.
L’aspirazione di avere un modello linguistico generativo italiano esiste già da tempo, con iGenius, una startup italiana, che ha annunciato il “Modello Italia”. Ma è il team della Sapienza ad aver superato le aspettative, rendendo disponibile Minerva su Huggingface. Tuttavia, emerge un inconveniente, sembrerebbe che la lingua italiana presenti alcune difficoltà tecniche per una soluzione tutta tricolore. Infatti, il recente rilascio di Minerva, il Large Language Model realizzato dal team della Sapienza, ha suscitato preoccupazioni nel corso delle prime analisi, principalmente riguardo alla qualità dei testi generati, spesso contenenti dichiarazioni inaccettabili, anche sessiste o razziste. Huggingface ha già richiamato l’attenzione del team della Sapienza sull’incapacità del modello di filtrare tali contenuti, poiché è un modello di base preaddestrato privo di meccanismi di moderazione.
Minerva non è diversa dagli altri LLM. La struttura, il lessico e la morfologia della lingua italiana non hanno nulla a che fare con il bias che, invece, nasce da una correlazione statistica su grande scala. Come gli altri LLM, anche Minerva è addestrata su internet, e qualsiasi modello prima del “fine tuning” ha comportamenti analoghi. Minerva è uscita per prestarsi al “reinforcement learning from human feedback” che ne determinerà l’allineamento. In pratica si tratta di una preview per i ricercatori che fanno LLM, proprio per che possano lavorare sull’allineamento tramite i feedback. Infatti, il team della Sapienza ha spiegato che l’obiettivo di Minerva sarebbe quello di fornire una base per ulteriori sperimentazioni e raffinamenti, non creare un chatbot pronto all’uso.
Leggi l’articolo completo: Minerva, l’IA italiana al bivio tra Vannacci e Manzoni su ilmanifesto.it.
Foto di Roman Lopez su Unsplash.
