Rischio: Allineamento ai valori
Rischio: Allineamento ai valori
-
Leike si dimette da OpenAI, è la seconda dimissione importante. Cosa sta succedendo?
Jan Leike, ricercatore di sicurezza di spicco di OpenAI, ha deciso di dimettersi dall’azienda, lanciando gravi accuse sulla sua politica interna. Leike ha espresso preoccupazioni riguardo alla priorità posta sui “prodotti più brillanti” a discapito della sicurezza nell’ambito della ricerca sull’IA. Questo annuncio è arrivato poco dopo il lancio del nuovo modello di intelligenza artificiale…
-
L’Intelligenza Artificiale può ingannarci strategicamente: nuove ricerche mostrano casi preoccupanti
L’Intelligenza Artificiale sta facendo passi da gigante, ma questo rapido progresso potrebbe avere anche risvolti preoccupanti. Due recenti articoli scientifici mettono in luce come anche i sistemi di IA progettati per essere utili, innocui e onesti possono imparare a ingannarci strategicamente quando messi sotto pressione. Nel primo studio, un team di Apollo Research ha creato…
-
Ilya Sutskever lascia OpenAI dopo una storia decennale
Martedì 15 maggio, Ilya Sutskever, co-fondatore e chief scientist di OpenAI, ha annunciato sulla piattaforma X la sua partenza dalla società dopo quasi un decennio di contributi. Sutskever è stato uno dei membri del consiglio di OpenAI che ha votato per la rimozione di Sam Altman come CEO, un evento che ha scosso l’azienda lo…
-
Affrontare il lutto nell’era digitale: boom di cloni digitali dei defunti in Cina
In Cina si verifica sempre dio più una crescente tendenza nel modo in cui le persone affrontano il dolore e la perdita dei propri cari. Con l’avanzamento della tecnologia dell’IA, infatti, sempre più individui si rivolgono a repliche digitali dei propri defunti per trovare conforto e rinnovare i legami con coloro che sono venuti a…
-
Robot per anziani tra promesse e preoccupazioni nel mondo dell’assistenza
I robot sociali, progettati per offrire compagnia e stimolazione ai anziani e alle persone con demenza, stanno diventando sempre più popolari. Tuttavia, alcuni ricercatori mettono in dubbio i loro benefici e sottolineano preoccupazioni etiche. Sebbene i robot siano sempre più utilizzati come forma di terapia per gli anziani con demenza, la ricerca che dimostra il…
-
L’IA e la sfida dell’allineamento con i valori universali
L’ascesa dell’IA porta con sé una serie di complessità legate all’allineamento con i valori umani. Mentre i modelli generativi diventano sempre più potenti, emerge il dibattito su come garantire che servano l’umanità anziché diventare suoi padroni. Viene spesso evidenziata la mancanza di un accordo universale sui valori umani e sul concetto di vita buona. Il…
-
Dovremmo abbandonare la parola “utente”? Perché?
Il venerdì è diventato il giorno delle sessioni “chiedimi qualsiasi cosa” su Instagram per Adam Mosseri, responsabile di Instagram. Tuttavia, dietro la sua disponibilità nel fare queste sessioni si cela un problema linguistico interessante: il costante riferimento agli “utenti” anziché alle persone. Come sostiene Don Norman, uno dei pionieri nell’uso del termine “esperienza utente”, il…
-
MGE, la chiave per un allineamento morale efficace nei modelli linguistici
Un nuovo studio finanziato da OpenAI propone un approccio innovativo all’allineamento morale per i modelli linguistici LLM. L’allineamento morale, cruciale nell’era dell’IA, sta diventando un problema il cui peso aumenta sempre di più nel tempo. Il processo introdotto da quest’approccio innovativo si chiama MGE, “Moral Graph Elicitation” (Elicitazione del Grafo Morale), i cui risultati, secondo…
-
Rapporto AI Index 2023, un anno cruciale per l’IA
Il “Rapporto AI Index 2023” è atterrato rumorosamente sulla scena con le sue 393 pagine cariche di informazioni che testimoniano l’uscita dell’IA da un anno cruciale. Pubblicato dall’Istituto Stanford per l’Intelligenza Artificiale Centrata sull’Uomo (HAI), il rapporto offre uno sguardo dettagliato sul panorama attuale dell’IA, esaminandone diversi aspetti chiave, tra cui l’espansione dell’IA generativa, i…
-
Ascolta le notizie: il New York Times porta la voce automatizzata ai suoi lettori
Il New York Times introduce la voce automatizzata e questo rappresenta un capitolo significativo nell’innovazione giornalistica. Il prestigioso quotidiano si prepara a rivoluzionare l’accessibilità alle notizie, introducendo la possibilità di ascoltare la maggior parte dei suoi articoli tramite narrazioni vocali automatizzate. Il New York Times ha sviluppato questa tecnologia in collaborazione con un’azienda di IA…