Mentre si diffonde l’uso di motori di ricerca basati su intelligenza artificiale, diversi studi indicano che i risultati possono essere poco autorevoli e costituire terreno di manipolazione.
I chatbot in questione tendono infatti a privilegiare testi che contengono termini tecnici o pertinenti, non tenendo però conto di aspetti fondamentali come l’affidabilità, le fonti scientifiche o l’uso di un linguaggio obiettivo. Questo funzionamento diventa particolarmente critico nel caso di temi complessi e oggetto di dibattito. Inoltre, a differenza dei motori di ricerca tradizionali che forniscono una lunga lista di risultati, i chatbot selezionano solo quattro o cinque fonti per elaborare le risposte. Se da una parte ciò rappresenta un grande vantaggio per i pochi selezionati, dall’altra condanna all’invisibilità tutti i restanti, che vedono crollare drasticamente il traffico.
Intanto, nel marketing compaiono i primi servizi GEO (Generative Engine Optimization). Basata su principi simili alla SEO, la GEO mirerebbe a ottimizzare le pagine web per i motori di ricerca basati su IA generative, aumentando così la probabilità che i contenuti compaiano tra le risposte fornite.
Di fatto, il termine GEO è comparso per la prima volta in un articolo scientifico pubblicato meno di un anno fa. Gli autori, ricercatori di Informatica ad Harvard, concludevano che l’uso di un linguaggio autorevole combinato alla citazione delle fonti poteva aumentare la visibilità dei contenuti nei confronti dei chatbot fino al 40%, indipendentemente dalla correttezza, qualità ed effettiva pertinenza. Inoltre, trattandosi di algoritmi in continua evoluzione e soprattutto opachi, non è possibile sapere esattamente in che modo selezionano le informazioni. Infine gli esperti sottolineano i rischi connessi alla manipolazione. Se infatti un utente riceve una singola risposta non accompagnata dalle possibili alternative da tenere in considerazione, è altamente probabile che accetti l’informazione così come viene fornita, non avendo accesso alle diverse sfumature, dibattiti e prospettive intorno ad essa.
Leggi l’articolo completo “The chatbot optimisation game: can we trust AI web searches?” su The Guardian
Immagine generata con WALL-E 3
