Seemingly Conscious AI (SCAI) è l’espressione scelta da Moustafa Souleyman, cofondatore di Inflection AI e oggi a capo di Microsoft AI, per descrivere la prossima frontiera dell’intelligenza artificiale. Non parliamo di coscienza reale, ma di un’imitazione così persuasiva da sembrare autentica. Grazie a memorie sempre più lunghe, linguaggio fluente e personalità simulate, i sistemi futuri potranno convincere molti di avere emozioni, ricordi e persino desideri.
Il nodo, spiega Souleyman, non è tanto se l’AI sia davvero cosciente – ad oggi non c’è alcuna prova – ma se gli utenti finiranno per crederlo. Qui entra in gioco il concetto di Seemingly Conscious: l’illusione rischia di generare attaccamenti emotivi, dipendenze psicologiche e perfino richieste di “diritti digitali” per i modelli. Un fenomeno già ribattezzato “rischio di psicosi”, con implicazioni sociali e culturali enormi.
Per Souleyman la strada è chiara: l’IA deve essere costruita per le persone, non per diventare una persona. Rendere i sistemi Seemingly Conscious significherebbe introdurre un’ulteriore fonte di confusione e divisione. La sfida, oggi, è stabilire norme e principi condivisi che proteggano gli utenti, senza cadere nella trappola dell’illusione. La vera sfida non è allora capire se l’AI sia cosciente, ma chiederci: cosa dice di noi il fatto che desideriamo crederlo?
Leggi l’articolo completo “We must build AI for people; not to be a person” sul Blog di Mustafa Souleyman.
Immagine generata tramite DALL-E 3. Tutti i diritti sono riservati. Università di Torino (10/09/2025).
