Tag: discriminazioni
Tag: discriminazioni
-
Riconoscimento facciale usato senza controllo a New Orleans
Per due anni, la polizia di New Orleans ha usato il riconoscimento facciale in tempo reale, aggirando l’ordinanza cittadina. Leggi qui.
-
Studio di OpenAI su pregiudizi nei LLM
OpenAI ha condiviso i risultati di uno studio sui pregiudizi nei LLM rivelando che ChatGPT può generare stereotipi di genere o razza in una risposta su 1000, con un tasso che arriva anche a una su 100 nel peggiore dei casi. Sebbene queste percentuali sembrino basse, considerando che 200 milioni di persone utilizzano ChatGPT ogni…
-
Progetto Aequitas – Hai mai subìto discriminazioni da un algoritmo?
Pensi di essere stat* vittima di una discriminazione algoritmica legata al tuo genere, etnia o orientamento sessuale, sul posto di lavoro? Aequitas, un progetto di ricerca europeo coordinato dall’Università di Bologna, sta esplorando come l’uso di algoritmi e Intelligenza Artificiale possa portare a nuove forme di discriminazione. Per questo motivo, stanno raccogliendo testimonianze tramite un…
-
Percorso per un’AGI tra ambizione e dilemma etico
Numerose organizzazioni nel campo dell’intelligenza artificiale si pongono come obiettivo lo sviluppo di un’AGI, un’IA generale, concepita come un sistema con una capacità intellettuale senza precedenti. Tuttavia, la questione fondamentale sulla possibilità e la necessità di costruire un tale sistema viene spesso accettata senza approfondimenti. Gli studiosi si concentrano maggiormente sull’ideale di un “AGI sicuro”…
-
Stereotipi nei LLM: Il richiamo all’azione dell’UNESCO
Lo studio dell’UNESCO sui Large Language Models (LLM) ha rivelato evidenze allarmanti di stereotipi di genere regressivi, omofobia e stereotipi razziali. Le donne sono state spesso associate a ruoli domestici, mentre gli uomini a ruoli di business e carriera. Questo pregiudizio è presente in modelli come GPT-3.5, GPT-2 e Llama 2. Nonostante gli LLM open…
-
Pregiudizi razzisti e stereotipi linguistici occulti: il lato oscuro degli LLM
Una recente ricerca ha evidenziato come i grandi modelli linguistici come ChatGPT, non si limitano ad assorbire le opinioni razziste presenti nelle milioni di pagine web su cui sono addestrati, ma le riflettono anche. Nonostante gli sforzi svolti dagli sviluppatori per mitigare questa tendenza, i risultati indicano che i modelli, soprattutto quelli più grandi, tendono…