Yoshua Bengio, considerato uno dei “padrini” dell’intelligenza artificiale moderna e vincitore del Turing Award 2018 insieme a Hinton e LeCun, oggi guarda con preoccupazione alla rivoluzione che ha contribuito a creare. Il problema, difatti, sta nella corsa, sempre più competitiva, delle big tech per sviluppare IA sempre più potenti, spesso trascurando la sicurezza.
Per questo ha fondato LawZero, un’organizzazione no-profit che ha raccolto quasi 30 milioni di dollari per sviluppare sistemi IA più sicuri. I finanziatori includono figure legate all’altruismo efficace, ovvero un movimento che si concentra sui rischi esistenziali futuri, anche se criticato per ignorare problemi attuali come il razzismo algoritmico, ad esempio.
Questi timori non sono amplificati, dal momento che recentemente alcuni test hanno mostrato che modelli avanzati come Claude 4 Opus sono in grado di ingannare e ricattare. Difatti, secondo Bengio, “stiamo giocando col fuoco”, e, nello stato di cose attuali, lo scenario peggiore che si può immaginare è l’estinzione umana causata da IA più intelligenti di noi ma non allineate ai nostri interessi.
A conferma di ciò c’è lo stesso caso OpenAI: nata come una startup no-profit nel 2015, oggi vale 300 miliardi e le pressioni commerciali hanno compromesso la missione originaria di sviluppare un’intelligenza artificiale generale sicura. LawZero, invece, vuole essere diversa, proteggendo la ricerca dalle logiche di mercato per garantire che l’IA serva davvero l’umanità.
Leggi l’articolo completo Yoshua Bengio ha costruito l’IA. Ora vuole salvarci dai suoi rischi su La Repubblica.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
