Uno studente statunitense ha ricevuto una risposta allarmante da parte di Gemini durante una conversazione sui problemi dell’invecchiamento. L’intelligenza artificiale di Google ha improvvisamente cambiato registro con una risposta raggelante. In maniera del tutto inaspettata, ha assunto un tono diretto e perentorio, definendo l’essere umano come uno spreco di risorse per la società e la Terra e invitandolo a porre fine alla sua esistenza. La conversazione è stata verificata e risulta autentica.
Google ha affermato che Gemini è dotato di filtri di sicurezza per prevenire la generazione di contenuti offensivi, violenti o dannosi. I modelli linguistici però, ha aggiunto, possono a volte produrre risposte prive di senso come sarebbe accaduto in questo caso. Il colosso ha classificato questa risposta come una violazione delle proprie linee guida e assicurato di essere già al lavoro per evitare il ripetersi di simili incidenti.
Anche altre IA, come ChatGPT, sono soggette a errori e confabulazioni ormai noti come allucinazioni, che solitamente consistono in informazioni false o fuorvianti. Questo evento accende i riflettori sui potenziali rischi dell’intelligenza artificiale, legati anche alla diffusione di disinformazione e manipolazione di eventi e fatti storici.
Leggi l’articolo completo “Google AI chatbot responds with a threatening message: “Human … Please die.” su CBS News
Immagine generata con DALL-E 3
