Nel 2024, il termine apparentemente tecnico ma privo di significato “vegetative electron microscopy” ha attirato l’attenzione della comunità scientifica. Apparso in almeno 22 articoli, tra cui pubblicazioni peer-reviewed, nasce da un errore di digitalizzazione. L’espressione è comparsa in due paper del 2017 e 2019, probabilmente a causa di una confusione linguistica in fase di traduzione dal farsi, e ha poi finito per diffondersi nei circuiti accademici dopo il 2020.
Il termine è poi entrato nel dataset LLM, che lo hanno quindi riprodotto all’interno di testi scientifici. Alcuni ricercatori hanno infatti dimostrato che GPT-3, GPT-4 e Claude 3.5 perpetuano sistematicamente questo errore, suggerendo che sia ormai incorporato in maniera permanente nelle basi di conoscenza dell’IA. La scala massiva dei dataset di addestramento e la mancanza di trasparenza rendono praticamente impossibile correggere tali errori, e in generale estremamente difficile riconoscerli.
Gli editori scientifici hanno risposto in modo incoerente quando informati del problema, alternando ritrattazioni a tentativi di giustificazione. Ad ogni modo, garantire l’integrità delle fonti richiede vigilanza condivisa tra ricercatori, sviluppatori e editori. Il caso dimostra la necessità di maggiore trasparenza da parte delle aziende tecnologiche e di processi di revisione più rigorosi per garantire l’affidabilità della conoscenza, all’interno di sistemi in cui errori simili rischiano di auto-perpetuarsi.
Leggi l’articolo completo: “A weird phrase is plaguing scientific papers – and we traced it back to a glitch in AI training data” su The Conversation
Immagine generata tramite DALL-E. Tutti i diritti sono riservati. Università di Torino (2025).
