Meta ha rilasciato nuovi modelli pre-addestrati basati sull’approccio innovativo della previsione multi-token. Questo approccio, delineato per la prima volta ad aprile, permette ai LLM di prevedere più parole contemporaneamente, puntando a migliorare le prestazioni e ridurre i tempi di addestramento.
Le implicazioni di questa svolta sono significative. I modelli di IA, aumentando in dimensioni e complessità, richiedono enormi quantità di potenza di calcolo, sollevando preoccupazioni sui costi e sull’impatto ambientale. L’approccio di Meta punta ad offrire un’alternativa più sostenibile, rendendo l‘IA avanzata più accessibile. Oltre ai guadagni di efficienza, questa tecnica potrebbe migliorare la comprensione del linguaggio da parte dei modelli, con applicazioni che spaziano dalla generazione di codice alla scrittura creativa. Il rilascio iniziale di Meta si concentra sul completamento del codice, riflettendo il crescente mercato degli strumenti di programmazione assistiti dall’IA. Questa mossa strategica potrebbe accelerare la tendenza verso la codifica collaborativa uomo-IA.
Nonostante le potenziali opportunità, i modelli di IA più efficienti potrebbero aggravare problemi esistenti come la disinformazione e le minacce informatiche. Meta ha evidenziato la natura di sola ricerca della licenza per mitigare queste preoccupazioni, ma restano dubbi sull’efficacia di tali restrizioni.
Leggi l’articolo completo: Meta drops AI bombshell: Multi-token prediction models now open for research su venturebeat.com.
Foto di Mariia Shalabaieva su Unsplash.
