Un training set (o insieme di addestramento) è un sottoinsieme di dati utilizzato per addestrare un modello di apprendimento automatico o un algoritmo di intelligenza artificiale. Esso rappresenta una porzione dei dati disponibili, scelta appositamente per insegnare al modello a riconoscere schemi e a fare previsioni. I dati inclusi nel training set vengono presentati al modello, che li utilizza per apprendere le caratteristiche rilevanti e le relazioni tra le variabili in modo da poter generalizzare le conoscenze acquisite a nuovi dati.
Nelle reti neurali (neural networks), il training set è fondamentale per l’addestramento. Una rete neurale è composta da strati di nodi (neuroni) che elaborano i dati. Durante la fase di addestramento, i pesi delle connessioni tra questi nodi vengono regolati attraverso un processo iterativo di ottimizzazione, solitamente mediante algoritmi come la retropropagazione (backpropagation). Il training set viene utilizzato per calcolare l’errore di previsione del modello, che viene poi minimizzato aggiornando i pesi della rete.
I Large Language Models (LLMs), come quelli basati sull’architettura GPT (Generative Pre-trained Transformer), fanno ampio uso dei training set per apprendere le proprietà del linguaggio naturale. Per questi modelli, il training set può comprendere enormi quantità di testo raccolto da varie fonti, come libri, articoli, siti web e altri testi scritti. Durante l’addestramento, i LLMs analizzano questi dati per apprendere le strutture grammaticali, il vocabolario, il contesto semantico e le associazioni tra le parole, al fine di generare testo coerente e contestualmente appropriato.