Il ricercatore di Stanford Michal Kosinski ha pubblicato uno studio in cui sostiene che i moderni modelli linguistici di IA, come GPT-4, abbiano compiuto progressi inattesi nella “teoria della mente” (ToM), una capacità cognitiva umana sviluppata in età infantile che consente di comprendere i pensieri e le emozioni altrui. Nel suo articolo su “Proceedings of the National Academy of Sciences”, Kosinski afferma che GPT-4 dimostra una comprensione primitiva di ToM, paragonabile a quella di un bambino di sei anni, ipotizzando che tale abilità sia emersa involontariamente grazie all’evoluzione delle competenze linguistiche degli LLM.
Kosinski, già noto per le sue analisi sull’uso dei “Mi piace” di Facebook per dedurre tratti personali, vede in questo progresso dell’IA un potenziale rischio. A suo avviso, se un’IA dovesse riuscire ad acquisire una comprensione profonda dei processi mentali umani, potrebbe utilizzare tale capacità per influenzare e manipolare con maggiore efficacia. Le IA, osserva Kosinski, non hanno una personalità fissa, potendola di fatto modellare in funzione dell’interlocutore o della situazione, come un “camaleonte” emotivo, simile a un sociopatico in grado di simulare empatia o tristezza senza provare realmente tale emozione.
La comunità scientifica è divisa sull’interpretazione dei risultati di Kosinski. Alcuni ricercatori, tra cui Vered Shwartz, sostengono che questi risultati siano illusori, simili al “Clever Hans”, il cavallo che sembrava fare calcoli ma che, in realtà, rispondeva ai segnali involontari del suo addestratore. Kosinski, tuttavia, insiste sull’emergere spontaneo di queste abilità cognitive negli LLM e avverte che, proseguendo l’evoluzione dell’IA, potrebbero manifestarsi ulteriori capacità inaspettate.
Leggi l’articolo completo: AI Will Understand Humans Better Than Humans Do su wired.com.
Immagine generata tramite DALL-E 3.
