Nell’attuale panorama dell’IA, sono diverse le aziende che stanno perseguendo lo sviluppo di un’AGI, ovvero un’IA generale, come ad esempio OpenAI con Sam Altman che punta a realizzare un AGI capace di superare l’intelligenza umana e trasformare radicalmente l’economia e la società.
Tuttavia, sorge una domanda cruciale: chi ha dato il consenso a questi cambiamenti epocali? Chi ha contribuito a decidere in che modo sviluppare l’AGI e se renderla così potente? La mancanza di un approccio democratico nel plasmare il futuro dell’AGI suscita preoccupazioni, con esperti come Jack Clark di Anthropic che mettono in dubbio la legittimità di tali decisioni prese da pochi leader tecnologici.
Il dibattito si intensifica attorno a tre principali obiezioni. La prima mette in discussione l’idea che l’uso di sistemi di IA implichi automaticamente un consenso informato, evidenziando che molti utenti potrebbero non essere a conoscenza delle conseguenze ambientali e sociali di queste tecnologie. La seconda riguarda l’idea che la società sia troppo ignorante per guidare l’innovazione, sottolineando che tale pensiero ignori la necessità di considerare le preoccupazioni generali del pubblico su temi cruciali come la sicurezza e i limiti etici. Infine, l’argomento dell’inevitabilità tecnologica viene anch’esso confutato, evidenziando che molte innovazioni possono e devono essere regolamentate.
La necessità di una deliberazione democratica è probabilmente necessaria. La costruzione dell’AGI non può essere lasciata a pochi, dovrebbe anzi coinvolgere tutti.
Leggi l’articolo completo: AI companies are trying to build god. Shouldn’t they get our permission first? su vox.com.
Immagine generata tramite DALL-E 3.
