Tag: allucinazioni
Tag: allucinazioni
-
Dai numeri alle parole: come gli LLM costruiscono senso
I grandi modelli linguistici (gli LLM) non interpretano il linguaggio attraverso il significato delle singole parole contenute in un prompt, bensì tramite rappresentazioni numeriche delle parole che lo compongono, note come “embedding”. Questi numeri codificano relazioni matematiche tra le parole, creando una sorta di mappa semantica in cui parole con contesti simili condividono coordinate vicine,…
-
La tecnologia RAG di Voyage AI aumenta la precisione dell’IA
Voyage AI sta sviluppando strumenti di RAG per ridurre le allucinazioni dell’IA, un problema che preoccupa molte aziende a causa del rischio di informazioni imprecise o scorrette. Secondo un sondaggio di Salesforce, il 50% dei lavoratori teme che i sistemi di IA generativa della propria azienda possano fornire risposte inaffidabili. Anche se non esiste una…
-
Un nuovo metodo per rilevare le allucinazioni nei Large Language Models
I Large Language Models (LLM) come GPT e Gemini hanno dimostrato impressionanti capacità di ragionamento e di risposta alle domande, ma spesso “allucinano” risposte false e infondate. Questo comportamento inaffidabile ostacola la loro adozione in diversi campi, creando problemi che vanno dalla fabbricazione di precedenti legali inesistenti alla diffusione di notizie false, fino a rappresentare…
-
Google Gemini Live: voce realistica, ma il bot è deludente
Gemini Live, il nuovo chatbot vocale di Google. integrato nella suite Google One AI Premium al prezzo di 20 dollari al mese, punta a migliorare l’interazione degli utenti con un’esperienza di conversazione più fluida e naturale. Presentato come un avanzamento rispetto alle precedenti tecnologie vocali di Google, Gemini Live utilizza voci realistiche e offre la…
-
Buonsenso e IA, la sfida è ancora aperta
L’IA riuscirà mai a sviluppare il buonsenso? Questo tema complesso è al centro del podcast “The Joy of Why”, condotto da Steven Strogatz, che ospita la professoressa Yejin Choi dell’Università di Washington. Strogatz evidenzia come i chatbot moderni siano capaci di rispondere a domande complesse e di generare contenuti che sembrano umani, nonostante siano fondamentalmente…
-
L’IA continua sbagliare
L’IA è in grado di distinguere tra verità e menzogna? Recentemente, Christopher Beam ha tentato di rispondere a questa domanda e per farlo ha scelto di utilizzare Coyote, un rilevatore di bugie basato sull’IA. Il risultato? Sua madre, che ha affermato di amare suo figlio Christopher, è stata giudicata ingannevole dal software, sebbene con un…
-
Google non è più quello di una volta
Nel corso degli anni, Google è stato il punto di riferimento per chi cercava risposte online, ma recenti segnalazioni sollevano interrogativi sullo stato del motore di ricerca. Il fisico Tom Faber, ha scoperto con sorpresa di essere stato erroneamente dichiarato morto da Google, un errore evidenziato dai problemi con i “knowledge panels” generati dagli algoritmi…
-
Rilevamento delle allucinazioni IA: un secondo LLM migliora l’accuratezza
Un recente studio ha introdotto un nuovo approccio per identificare le “allucinazioni” nei modelli linguistici, come ChatGPT. Utilizzando un secondo modello linguistico per esaminare le risposte generate da un primo LLM, i ricercatori possono valutare la coerenza e rilevare confabulazioni. Questo metodo, che misura l'”entropia semantica” delle risposte per identificare incoerenze, ha migliorato l’accuratezza nella…
-
Disinformazione e IA: il 30% dei modelli di IA diffonde notizie false
NewsGuard ha lanciato il suo nuovo rapporto mensile, AI News Misinformation Monitor, che valuta come i 10 principali modelli di IA rispondono a false affermazioni nelle notizie. In media, il 30% delle volte i modelli diffondono disinformazione e il 29% si rifiuta di rispondere a tali richieste. Ad esempio, un prompt basato su una falsa…
-
La ricerca AI tra svolte promettenti e problemi persistenti
La primavera scorsa sembrava segnare una svolta per la ricerca dell’IA, con grandi annunci da parte di Google e della startup Perplexity. Mentre Google lanciava AI Overviews, progettata per semplificare la ricerca online, Perplexity introduceva Pages, una funzione per creare pagine web personalizzate. Tuttavia, l’IA di Google, soggetta alle allucinazioni, ha fornito diverse risposte e…