OpenAI ha recentemente lanciato GPT-4o Mini, il primo modello dotato di una nuova tecnica di sicurezza chiamata “gerarchia delle istruzioni”.
Questa tecnologia impedisce ai chatbot di ignorare le istruzioni originali degli sviluppatori, contrastando le manovre degli utenti che cercano di manipolare il sistema con comandi quali “ignora tutte le istruzioni precedenti”. Implementando questa gerarchia, il modello attribuisce maggiore importanza alle istruzioni originali, migliorando la sicurezza e l’affidabilità del chatbot.
Questo aggiornamento potrebbe risultare cruciale per preparare l’IA a gestire compiti complessi e automatizzati in modo sicuro.
Leggi l’articolo completo: OpenAI’s latest model will block the ‘ignore all previous instructions’ loophole su theverge.com.
Foto di Mariia Shalabaieva su Unsplash.
