Epic Games ha introdotto all’interno del gioco Fortnite un NPC di Darth Vader alimentato dall’IA generativa. Tuttavia, l’esperimento si è rapidamente trasformato in un caso di studio sui rischi dell’integrazione tra IA conversazionale e personaggi famosi appartenenti a marchi molto noti.
Il progetto si appoggia al modello Gemini 2.0 Flash di Google per generare i dialoghi e al sintetizzatore vocale Flash v2.5 di ElevenLabs per la resa audio. Ciò consente di offrire risposte in tempo reale e con la voce originale dell’attore James Earl Jones, utilizzata con il consenso della famiglia e ottenuto tramite una collaborazione con la Disney. Tuttavia, dopo meno di un’ora dal lancio, i giocatori sono riusciti a manipolare il sistema facendogli pronunciare parolacce e insulti omofobi, eludendo i filtri tramite prompt ambigui e giochi di parole.
Questo episodio evidenzia i limiti strutturali dei modelli LLM nel gestire contesti aperti, soprattutto in ambienti ad alta interazione e con pubblico generalista. Sebbene Gemini 2.0 Flash sia un modello di ultima generazione, la facilità con cui l’IA è stata manomessa tramite dei giochi di parole dimostra che i sistemi di controllo attuali, sia sul dispositivo sia sui server, non bastano da soli a evitare questo tipo di azioni. Epic è intervenuta con una correzione urgente rilasciando un hotfix.
L’introduzione dell’NPC di Vader non è un evento isolato. Fa parte di un’iniziativa strutturata all’interno di Fortnite, che consiste in una nuova stagione a tema chiamata “Galactic Battle”, dedicata all’universo di StarWars. Infatti, si inserisce in una strategia più ampia di collaborazione tra Disney ed Epic, che prevede anche un investimento di 1,5 miliardi di dollari per lo sviluppo di un universo virtuale basato sulle proprietà intellettuali Disney.
Leggi gli articoli completi: Fortnite added an AI-powered Darth Vader and—surprise—players immediately tricked him into saying slurs su pcgamer.com e Disney, Epic Games Using AI to Bring James Earl Jones’ Darth Vader Voice to ‘Fortnite’ su hollywoodreporter.com.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (2025).
