Secondo l’ex advisor di OpenAI Miles Brundage nessuna azienda è davvero pronta per l’intelligenza artificiale generale (in abbreviato, AGI).
L’esperto ha specificato che la sua dichiarazione non intende porsi in opposizione ai vertici della startup. Piuttosto, pone l’accento sul fatto che né le aziende del settore né il mondo sarebbero sulla buona strada per farsi trovare preparati al momento giusto.
Entrato in OpenAI nel 2018 come ricercatore in ambito policy, negli ultimi due anni Brundage ha diretto il team “AGI Readiness”, incaricato di monitorare la capacità della startup di sostenere in maniera responsabile la scalabilità della potenza computazionale e valutarne i potenziali rischi.
La scorsa settimana ha annunciato le sue dimissioni, sottolineando la necessità di voci indipendenti e libere da conflitti d’interesse nel dibattito sull’IA. In tal proposito, ritiene di poter contribuire maggiormente allo sviluppo delle politiche globali di governance dell’intelligenza artificiale nella posizione di ricercatore indipendente.
La sua dipartita si aggiunge a quella di altre due figure di alto profilo dell’ambito etica e sicurezza. Di recente, anche il co-fondatore Ilya Sutskever ha lasciato OpenAI per fondare una sua startup dedicata allo sviluppo sicuro dell’AGI, seguito da Jan Leike, anche lui capo-ricercatore. Insieme coordinavano il team “Superalignment”, ora dismesso, dedicato all’analisi dei rischi a lungo termine.
Questa fuga di figure centrali dagli uffici di OpenAI lascerebbe pensare a una certa tensione culturale interna, probabilmente legata alla transizione in corso dal 2019 da società no-profit orientata alla ricerca ad azienda a vocazione prettamente commerciale e product-driven.
Leggi l’articolo completo Departing OpenAI leader says no company is ready for AGI su The Verge
Immagine generata con Dall-E 3
