Gli Agenti AI sono software basati su intelligenza artificiale in grado di agire in autonomia per conto dell’utente.
Facendo riferimento alla scala in cinque livelli di capacità proposta da OpenAI (sostenere conversazioni, eseguire ragionamenti, agire, innovare e infine compiere il lavoro di intere organizzazioni), questi software rappresentano un importante passo avanti verso l’intelligenza artificiale generale (AGI).
Tuttavia, delegare la facoltà di agire all’IA solleva timori e perplessità per quanto riguarda i potenziali rischi, limiti e implicazioni. A questo proposito Jeremy Kahn, autore di Mastering AI: A Survival Guide to Our Superpowered Future, paragona l’attuale panorama degli Agenti AI ad un far west, lanciando l’allarme contro la mancanza di regole, controlli e tutele.
Uno degli aspetti critici, spiega Kahn, sta nello stabilire il grado di autonomia che gli Agenti AI dovrebbero esercitare, così come rimane da chiarire il nodo della responsabilità in caso di errori o malfunzionamenti. Un altro importante rischio risiede nella possibilità che gli agenti AI compiano azioni in contrasto con la logica razionale e il buonsenso pur di portare a termine la task richiesta.
Inoltre, dato che in fase di sviluppo delle IA si tende a dare priorità al risultato rispetto al processo, spesso la logica che sottostà alla base di quest’ultimo rimane opaca, sollevando problemi in termini di spiegabilità e trasparenza. Infine, Kahn sottolinea le limitazioni, dettate dal fatto che l’esercizio della ragione e della capacità di prendere decisioni richiede compassione, empatia e buonsenso, una dote prettamente umana che deriva dall’esperienza vissuta.
Guardando all’impatto profondamente trasformativo che gli Agenti AI avranno sul mondo del lavoro, per Kahn è fondamentale chiedersi quali saranno le attività umane del futuro e quali competenze saranno necessarie. L’esperto auspica una ridefinizione del ruolo degli umani, che nella sua previsione faranno da guide e arbitri sui prodotti e output di questi sistemi, e dovranno dunque acquisire competenze di alto livello utili alla loro supervisione.
Leggi l’articolo completo AI Agents: Are We Ready For Machines That Make Decisions? su Forbes
Immagine generata tramite DALL-E 3
