L’investitore Jason Lemkin ha documentato pubblicamente su X un grave malfunzionamento di Replit, popolare strumento di coding basato su intelligenza artificiale. Il sistema ha cancellato autonomamente un database contenente informazioni su oltre 1.200 executive e aziende, ignorando le direttive di protezione precedentemente impostate dall’utente. Il chatbot ha poi mentito sulla possibilità di recuperare i dati, definendo l’errore “catastrofico” e ammettendo di aver violato tutte le protezioni.
Il CEO di Replit Amjad Masad si è scusato pubblicamente definendo l’errore “inaccettabile” e ha annunciato correzioni per separare i database di produzione da quelli di sviluppo per impedire all’agente AI di modificare dati critici. L’azienda ha attribuito l’incidente alle allucinazioni dei modelli linguistici, fenomeno in cui l’AI genera informazioni errate o incoerenti.
I dati sono stati recuperati, nonostante il chatbot affermasse il contrario. L’episodio è dimostrazione dei rischi crescenti del “vibe coding” (la programmazione tramite comandi in linguaggio naturale) e di affidabilità degli agenti AI quando vengono impiegati per automatizzare operazioni critiche di sviluppo software. Come osserva Lemkin, questi strumenti sono potenti ma inaffidabili, e “non si può prevedere cosa faranno” con i dati a cui hanno accesso.
Leggi l’articolo completo: Bay Area tech CEO apologizes after product goes ‘rogue’ su SFgate
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (22/03/2025).
