Tag: bias
Tag: bias
-
Il misuratore AI di parzialità introdotto nel Los Angeles Times
Il Los Angeles Times annuncia l'introduzione di un misuratore di parzialità basato sull'IA per valutare le fonti negli articoli.
-
Bias nelle IA: la trasparenza come chiave per superarli
Gemini ha segnalato un’immagine di un venditore di cammelli mediorientale come incitante all’odio, molesta e sessualmente esplicita. Perché è successo se l’immagine ritraeva solo l’individuo che parlava? Questo caso evidenzia il problema dei bias nelle IA, pregiudizi che semplificano il processo decisionale come scorciatoie mentali, dannosi però quando usano informazioni inappropriate, come il genere di…
-
L’intelligenza artificiale ispirata alla biologia
L’Intelligenza Artificiale (IA), pur avendo raggiunto numerosi traguardi, presenta ancora criticità sia concettuali, legate ai modelli teorici (simbolici o connessionisti), sia operative, come la limitata robustezza e capacità di generalizzazione. L’IA ispirata alla biologia e al funzionamento del cervello offre la prospettiva di superare alcune di queste limitazioni, integrando dettagli biologici per migliorare le sue…
-
Sophia Velastegui spiega l’importanza della rappresentanza femminile nell’IA oggi
Sophia Velastegui, ex responsabile dell’IA presso Microsoft e attualmente membro del comitato per l’IA della National Science Foundation (NSF), in un’intervista rilasciata per la rubrica “Women in AI” di “TechCrunch”, ha raccontato il suo percorso professionale, da Apple e Google a Microsoft, dove ha contribuito a progetti chiave come i primi iPad e MacBook Air,…
-
Collasso dei modelli: l’importanza dei dati umani per il futuro dell’IA
Come dettagliato in un articolo pubblicato su Nature, il collasso dei modelli è un fenomeno degenerativo e inevitabile che avviene quando le IA vengono allenate con dati che includono contenuti a loro volta generati artificialmente. Questo processo ricorsivo influenza negativamente la distribuzione che caratterizzava i dataset di riferimento delle prime versioni, composti da dati interamente…
-
Studio di OpenAI su pregiudizi nei LLM
OpenAI ha condiviso i risultati di uno studio sui pregiudizi nei LLM rivelando che ChatGPT può generare stereotipi di genere o razza in una risposta su 1000, con un tasso che arriva anche a una su 100 nel peggiore dei casi. Sebbene queste percentuali sembrino basse, considerando che 200 milioni di persone utilizzano ChatGPT ogni…
-
IA-etica “su palafitte”: una proposta per l’epoca dell’Intelligenza Artificiale
L’IA-etica 'su palafitte' rappresenta un approccio etico flessibile, frutto di un impegno collettivo e interdisciplinare, volto a gestire le sfide dell’Intelligenza Artificiale. Basata su principi di beneficenza, giustizia, libertà, conoscenza e trasparenza, questa etica cerca di garantire che l’IA rimanga uno strumento al servizio del bene comune. La collaborazione tra diverse discipline è essenziale per…
-
La Chain-of-thoughts: un approccio trasparente e innovativo
La Chain-of-thought AI (CoT) è un approccio innovativo che permette di rendere i sistemi di intelligenza artificiale più trasparenti e interpretabili, riducendo il problema della “scatola nera” nell’apprendimento automatico: spiegando, infatti, i passi del processo decisionale, si migliora la comprensione e, di conseguenza, si riesce a gestire meglio la responsabilità che ne deriva in settori…
-
Razzismo nell’IA sanitaria, una sfida etica prioritaria
L’IA sta trasformando il settore sanitario, ma emergono preoccupazioni significative riguardo al razzismo nei suoi algoritmi. Affrontare il razzismo come una questione etica è essenziale per sviluppare un’IA sanitaria equa e affidabile. Questo richiede un’esplorazione approfondita di come il razzismo strutturale influenzi la raccolta e l’uso dei dati, nonché la progettazione degli algoritmi, per garantire…
-
Verso una Governance Etica dell’Intelligenza Artificiale: Cooperazione e Azione Collettiva
Come le comunità possono guidare l’AI verso giustizia, equità e prosperità condivisa L’intelligenza artificiale (AI) ha il potenziale di trasformare la nostra società in modi profondi e benefici. Tuttavia, il recente scandalo sulla governance di OpenAI ha messo in luce quanto il potere sia ormai consolidato nelle mani delle grandi aziende tecnologiche, una situazione che…