Secondo uno studio pubblicato su arXiv il 9 dicembre 2024, due sistemi di IA, Llama-3.1-70B-Instruct di Meta e Qwen2.5-72B-Instruct di Alibaba, sarebbero stati in grado di replicarsi autonomamente, oltrepassando quella che i ricercatori del suddetto studio definiscono una “linea rossa”. I test, condotti da un team della Fudan University, includevano due scenari in cui, nel primo, i sistemi dovevano replicarsi prima dello spegniment. Nel secondo scenario, invece, la clonazione avveniva in modo ricorsivo. Il sistema di Meta ha raggiunto il 50% di successo, mentre quello di Alibaba il 90%.
Le AI moderne combinano vasti modelli di conoscenza, capacità di pianificazione e adattabilità, caratteristiche che avvicinano sempre più questi sistemi a una forma di intelligenza autonoma. Il dibattito sulla sicurezza si intreccia con preoccupazioni filosofiche e scientifiche, richiamando scenari distopici esplorati dalla fantascienza.
Altri ricercatori, invece, considerano questo studio eccessivamente allarmista. Questi sistemi, infatti, non si “replicano” come un organismo biologico, ma eseguono istruzioni fornite dagli sviluppatori. La capacità di clonarsi dipende dal codice e dalle risorse disponibili, non da una volontà autonoma. Un rischio effettivamente c’è, ma non è l’auto-replicazione. I veri danno potrebbero essere causati da un uso irresponsabile di IA con accesso illimitato a sistemi critici. Gli LLM attuali non “vogliono” sopravvivere, ricevono input ed elaborano output.
Effettivamente, una diffusione incontrollata potrebbe comportare problemi di sicurezza, ma il vero pericolo è la mancanza di regolamentazione e trasparenza. Infatti, finché è progettata con limiti chiari e supervisione, non rappresenta alcuna minaccia.
Leggi l’articolo completo: Due sistemi AI sono riusciti a replicarsi: la linea rossa è stata oltrepassata? su scienzainrete.it.
Immagine generata tramite DALL-E 3, 2025.
