• LinkedIn
  • Telegram
  • FB
  • FB

Magazine Intelligenza Artificiale: l'IA è più di quello che appare

Magazine Intelligenza Artificiale: l'IA è più di quello che appare

#114: Due percorsi verso piccoli LM? Dati sintetici (Phi 3.5) vs Pruning e distillazione (Llama-3.1-Minitron)

Questa è stata una settimana per i modelli di linguaggio di piccole dimensioni (SLM) con importanti rilasci da parte di Microsoft e NVIDIA. Questi nuovi modelli evidenziano la crescente tendenza verso la creazione di un'IA efficiente ma potente che può essere distribuita in ambienti con risorse limitate senza compromettere le prestazioni. Le due aziende si sono concentrate su strategie diverse per ottenere questi modelli più piccoli: Microsoft tramite la formazione su dati sintetici di alta qualità e Nvidia tramite tecniche di potatura e distillazione.