Joseph Weizenbaum, creatore del programma Eliza, aveva per obiettivo quello di dimostrare che le macchine non possono pensare, mettendo in discussione l’illusione che subiscono gli utenti quando le attribuiscano capacità cognitive umane, noto ora come effetto Eliza, nome preso dal fatto che sebbene Eliza era un semplice software di imitazione linguistica, molti credevano che potesse comprendere realmente, un fenomeno che Weizenbaum riteneva pericoloso.
Critico verso lo sviluppo dell’IA, Weizenbaum riteneva immorale sostituire funzioni umane come l’empatia e il rispetto con sistemi informatici. Avrebbe probabilmente criticato tecnologie moderne come Google Duplex, che eseguono conversazioni complesse simulando di essere persone umane, in quanto vedeva in queste innovazioni il rischio di disumanizzazione e, nei casi peggiori, il preludio a guerre automatizzate.
Negli anni ’60 e ’70, voci sintetiche, per lo più femminili, sostituirono gli operatori nei servizi, contribuendo al fenomeno del “tecnosessismo”, perpetuando stereotipi di genere. Questo problema persiste con IA come Siri e Alexa, spesso criticate per rafforzare comportamenti irrispettosi, soprattutto verso assistenti vocali femminili.
Leggi l’articolo completo: Is a Chat with a Bot a Conversation? su newyorker.com.
Immagine generata tramite DALL-E 3.
