Simon Willison ha un nuovo piano per l’apocalisse: una chiavetta USB con alcuni LLM open-weight, modelli di intelligenza artificiale scaricabili gratuitamente. “È come avere una Wikipedia condensata e difettosa per riavviare la società“, spiega l’esperto di sviluppo software. Tuttavia, non serve pianificare la fine del mondo per interessarsi ai LLM locali. La community r/LocalLLaMA conta mezzo milione di membri attratti da diversi temi quali la privacy, l’indipendenza dalle big tech e il puro divertimento tecnologico.
Difatti, mentre prima, per poter scaricare LLM locali servivano GPU costose, oggi basta un laptop normale. Le preoccupazioni riguardanti la privacy che i giganti hanno contribuito a sviluppare, dato che OpenAI addestra i suoi modelli sulle chat degli utenti e Google fa lo stesso con Gemini, vengono meno in questo caso, dato che si può optare per l’eliminazione automatica anche se vuol dire perdere la cronologia. I modelli locali, dunque, offrono controllo totale, evitando cambiamenti improvvisi come quando, ad esempio, ChatGPT è diventato improvvisamente più adulatorio o Grok si è rinominato MechaHitler.
Pertanto, pur essendo meno potenti rispetto ai prodotti delle grandi aziende tech nominate in precedenza, riescono a soddisfare maggiori criteri etici, in quanto mettono in luce più chiaramente le loro allucinazioni, sviluppando intuito critico.
Leggi l’articolo completo How to run an LLM on your laptop su MIT Technology Review.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (20/07/2025).
