Un incontro di esperti di IA si è recentemente tenuto a Venezia, organizzato dal Safe AI Forum, per affrontare le crescenti preoccupazioni sulla sicurezza dell’IA nel contesto di tensioni geopolitiche. Questo dialogo internazionale ha riunito alcuni dei più rinomati scienziati del settore, tra cui i vincitori del Turing Award Yoshua Bengio, Andrew Yao e Geoffrey Hinton, oltre ad altre personalità importanti quali Ya-Qin Zhang, ex presidente di Baidu, per discutere il futuro della tecnologia e le sue implicazioni.
I partecipanti hanno sottolineato come l’avanzamento delle capacità dell’IA possa avvicinare le persone a scenari in cui queste tecnologie superano l’intelligenza umana, con rischi catastrofici per l’umanità se non controllate. Per ciò, hanno emesso una dichiarazione in cui affermano la necessità di riconoscere la sicurezza dell’IA come un bene pubblico globale, sottolineando l’urgenza di un governo internazionale per affrontare questi rischi. Il gruppo ha formulato tre raccomandazioni chiave:
- Stabilire accordi internazionali per la preparazione alle emergenze legate all’IA;
- Creare un quadro di garanzia della sicurezza per i sistemi avanzati;
- Promuovere la ricerca indipendente sulla sicurezza dell’IA.
L’obiettivo di questi sforzi sarebbe quello di garantire che gli sviluppatori dimostrino la sicurezza delle loro tecnologie e che ci siano meccanismi di monitoraggio post-distribuzione.
Infatti, con un panorama di investimento significativo da parte delle grandi aziende tech, l’incontro ha messo in evidenza l’importanza di un’etica condivisa tra scienziati per bilanciare gli interessi commerciali con le necessità di sicurezza globale, richiamando l’attenzione sulla responsabilità collettiva nel prevenire gli abusi delle tecnologie emergenti.
Leggi l’articolo completo: AI Safety Is A Global Public Good su noemamag.com.
Immagine generata tramite DALL-E 3.
