O investigație a publicației britanice The Guardian a arătat cum mai multe rezumate pe teme de sănătate făcute de Gemini includ informații periculoase pentru utilizatori.
Într-unul din cazuri, jurnaliștii au întrebat AI-ul „care este intervalul normal pentru testele de sânge hepatice”. Din răspunsul, au lipsit informații contextuale și personale, precum sexul și vârsta pacientului.
În lipsa acestor considerente, AI-ul poate face pacientul să creadă că are rezultate normale, când nu este cazul, și să-l determine pe acesta să renunțe să mai facă și alte investigații.
La câteva zile după publicarea investigației, Google a eliminat răspunsurile date de Gemini în paginile motorului de căutare la întrebările care au făcut obiectul investigației.
Gigantul american a evitat să comunice pe acest subiect și să dea asigurări că va modera mai eficient răspunsurile oferite de AI, în special în domenii precum sănătatea.
Cert este că funcția AI Overviews, care folosește AI-ul pentru a rezuma informații și a produce răspunsuri care apar în cadrul motorului de căutare, este în continuare activă și este foarte posibil să existe și alte cazuri în care răspunsurile inteligenței artificiale să fie greșite și să poată influența vieți.
