Yoshua Bengio, uno dei “padrini” dell’intelligenza artificiale e vincitore del prestigioso Turing Award, ha aderito a un progetto finanziato dal governo britannico per sviluppare meccanismi di sicurezza nei sistemi di IA. Il progetto, denominato Safeguarded AI, riceverà un finanziamento di 59 milioni di sterline nei prossimi quattro anni e mira a costruire un sistema di intelligenza artificiale in grado di verificare la sicurezza di altri sistemi IA impiegati in settori critici.
Bengio, che ricoprirà il ruolo di direttore scientifico del progetto, sottolinea l’importanza di utilizzare l’IA stessa per controllare altri sistemi di intelligenza artificiale, poiché la complessità di questi sistemi li rende difficili da comprendere e monitorare per gli esseri umani. L’obiettivo del progetto è quello di creare un “gatekeeper” IA, capace di valutare e ridurre i rischi associati agli agenti IA, specialmente in settori ad alto rischio come i trasporti o i sistemi energetici.
David Dalrymple, direttore del programma Safeguarded AI presso l’Agenzia per la Ricerca Avanzata e l’Invenzione (ARIA) del Regno Unito, ha dichiarato che il progetto punta a fornire garanzie quantitative sul comportamento dei sistemi IA nel mondo reale, attraverso l’integrazione di modelli scientifici e prove matematiche.
L’iniziativa è parte della strategia del Regno Unito di diventare un leader globale nella sicurezza dell’intelligenza artificiale, e ARIA sta anche cercando proposte per avviare un’organizzazione no-profit dedicata alla costruzione di questi meccanismi di sicurezza. Bengio, noto per il suo impegno a favore della sicurezza dell’IA, vede in questo progetto un’opportunità per promuovere la collaborazione internazionale su questo tema cruciale.
Leggi qui l’intero articolo: AI “godfather” Yoshua Bengio has joined a UK project to prevent AI catastrophes
Foto di Igor Omilaev su Unsplash
