Rischio: Discriminazione e bias
Rischio: Discriminazione e bias
-
Google sviluppa Habermas Machine per ridurre le divisioni culturali
Un sistema di mediazione politica basato sull’IA, sviluppato dal team di Google DeepMind e chiamato “Habermas Machine”, punta a ridurre le divisioni culturali attraverso la creazione di dichiarazioni di gruppo ma che riflettono le opinioni sia della maggioranza che della minoranza. Il professor Chris Summerfield, coautore della ricerca, sottolinea che questo strumento potrebbe fornire ai…
-
Studio di OpenAI su pregiudizi nei LLM
OpenAI ha condiviso i risultati di uno studio sui pregiudizi nei LLM rivelando che ChatGPT può generare stereotipi di genere o razza in una risposta su 1000, con un tasso che arriva anche a una su 100 nel peggiore dei casi. Sebbene queste percentuali sembrino basse, considerando che 200 milioni di persone utilizzano ChatGPT ogni…
-
Sistema di IA taglia fondi scolastici in Nevada, crescono le polemiche
In Nevada, l’introduzione di un sistema di IA per identificare gli studenti “a rischio” di non laurearsi ha sollevato un acceso dibattito etico e pratico, in quanto vengono impiegati algoritmi di apprendimento automatico per valutare appunto la probabilità che gli studenti si laureino o meno. Da questa valutazione dipendono direttamente l’assegnazione di finanziamenti aggiuntivi che…
-
Perché le donne non usano l’IA?
Il nuovo gender gap si riferisce all’utilizzo della IA e, in particolare, ChatGPT. Difatti, due studi mostrano che le donne utilizzano la tecnologia tra il 16% e il 20% in meno rispetto agli uomini, anche quando svolgono le stesse mansioni. Il primo studio, condotto su 100.000 lavoratori danesi, ha evidenziato che le donne che operano…
-
La Chain-of-thoughts: un approccio trasparente e innovativo
La Chain-of-thought AI (CoT) è un approccio innovativo che permette di rendere i sistemi di intelligenza artificiale più trasparenti e interpretabili, riducendo il problema della “scatola nera” nell’apprendimento automatico: spiegando, infatti, i passi del processo decisionale, si migliora la comprensione e, di conseguenza, si riesce a gestire meglio la responsabilità che ne deriva in settori…
-
I brand amano gli influencer fintanto che la politica è coinvolta
Diversi brand, che si avvalgono degli influencer per promuovere i propri prodotti, cercano di evitare quelli che trattano tematiche politiche, nonostante questa ricerca non sia così semplice. Difatti, con l’avvicinarsi delle elezioni presidenziali, alcune agenzie di marketing stanno sviluppando strumenti che utilizzano l’IA per valutare la “brand safety” di alcuni influencer, in modo da prevenire…
-
Chi sono i nuovi proletari dell’intelligenza artificiale?
Come sostiene Kate Crawford nel suo libro l’intelligenza artificiale non è né intelligente né artificiale. Difatti, sebbene siamo portati a pensare che questi nuovi mezzi tecnologici siano autonomi e fanno affidamento a dei processi automatizzati, in realtà dipendono dagli esseri umani per il suo funzionamento e, in particolare, da quelli che possono essere considerati i…
-
Anche l’IA guarda le Olimpiadi
Mentre sono in corso le ultime gare di questa edizione francese delle Olimpiadi, stanno sorgendo diverse riflessioni extra campo sul ruolo delle innumerevoli tecnologie coinvolte. Difatti, la capitale ha implementato ampie misure di sicurezza, tra cui 40.000 barriere e una massiccia presenza di polizia e militari, per essere in grado di far fronte a quella…
-
La Strategia Transfobica nel Manifesto Elettorale genAI di Matteo Salvini
Il manifesto elettorale recentemente pubblicato su Instagram dal vicepremier Matteo Salvini ha sollevato numerose polemiche e critiche per l’uso di un’immagine generata con l’intelligenza artificiale che ritrae un uomo trans in gravidanza. Sembrerebbe che il vicepremier abbia sfruttato la paura e la discriminazione contro la comunità trans per ottenere consensi elettorali. In particolare, l’immagine creata…
-
I social network non sono ancora in grado di prevedere e mitigare l’odio e la discriminazione. Il caso di Kamala Harris
Recentemente, il Presidente degli Stati Uniti Joe Biden ha annunciato che non si candiderà per un secondo mandato, modificando drasticamente il panorama politico in vista delle prossime elezioni. In seguito a questa dichiarazione, i principali esponenti del Partito Democratico si sono subito schierati a sostegno della Vicepresidente Kamala Harris, proponendola come candidata. Tuttavia, questa notizia…