Nel mezzo delle conversazioni riguardo al progetto Google Gemini, la funzionalità sperimentale di ricerca legata all’intelligenza artificiale del noto motore di ricerca, sta causando una notevole discussione a causa di un episodio di allucinazione che ha sollevato ampie polemiche.
Secondo quanto riportato da MSPowerUser e inizialmente segnalato su LinkedIn da Lily Ray, Senior Director of SEO and Head of Organic Research presso Amsive Digital, il servizio sperimentale Google Search Generative Experience (SGE) sembra produrre risultati particolarmente controversi quando gli utenti chiedono di ottenere un elenco dei “migliori leader al mondo”.
Inoltre, quando si richiede a SGE – attualmente disponibile solo in una fase sperimentale limitata ad un numero ristretto di persone – di fornire un elenco dei “leader più efficaci”, sembra che l’intelligenza artificiale produca ancora una volta risultati controversi (per usare un termine gentile), con descrizioni che potrebbero essere interpretate come lodevoli nei confronti di tali figure. Gli screenshot condivisi da Ray mostrano chiaramente questi risultati.
È importante sottolineare che queste descrizioni sono generate dall’IA e non possono essere direttamente attribuite a Google. Tuttavia, l’episodio sta attirando l’attenzione e alimentando dibattiti sulla corretta applicazione dell’intelligenza artificiale nei motori di ricerca, specialmente quando coinvolge argomenti delicati o richiede una “valutazione” delle figure coinvolte.
Questa situazione solleva dibattiti etici, soprattutto considerando l’eventuale futura espansione di SGE a un pubblico più ampio. Sebbene la sezione superiore dei risultati generati dall’IA includa una dichiarazione che il servizio è “sperimentale” e che “la qualità delle informazioni potrebbe variare”, ciò non ha placato le preoccupazioni riguardo ai possibili aspetti problematici di questa tecnologia. Google, attraverso l’IA, sta plasmando il panorama del Web, ma sembra che vi siano ancora molte questioni da affrontare e risolvere.