Jak podaje The Guardian, nowe funkcje wyszukiwarki Google oparte na sztucznej inteligencji mogą stanowić zagrożenie dla zdrowia użytkowników. Śledztwo wykazało, że generatywny system AI Overviews udziela błędnych i wprowadzających w błąd porad medycznych dotyczących diagnozy i leczenia chorób, pisze Bytow24.
Według ustaleń dziennikarzy, algorytmy Google zalecały pacjentom onkologicznym dietę sprzeczną z zaleceniami lekarzy, a w innych przypadkach przedstawiały fałszywe dane dotyczące wyników badań krwi. Eksperci ostrzegają, że nieprawidłowe informacje mogą prowadzić do poważnych konsekwencji zdrowotnych i opóźnienia w uzyskaniu profesjonalnej pomocy medycznej.
W jednym z przypadków Google AI doradził osobom z rakiem trzustki unikanie tłustych produktów, co – jak wskazali specjaliści – mogło zwiększyć ryzyko niedożywienia i śmierci.
„Taka porada jest absolutnie błędna i może doprowadzić do utraty masy ciała oraz uniemożliwić leczenie onkologiczne” — podkreśliła Anna Jewell z Pancreatic Cancer UK.
Z kolei błędne informacje dotyczące testów funkcji wątroby mogły sprawić, że osoby z poważnymi schorzeniami uznawały się za zdrowe. Brak kontekstu i niewłaściwe dane demograficzne sprawiają, że takie wyniki są mylące i potencjalnie niebezpieczne dla interpretacji medycznej.
„Wielu pacjentów z chorobami wątroby nie ma objawów aż do późnego stadium, dlatego błędne informacje mogą być wyjątkowo szkodliwe” — zaznaczyła Pamela Healy z British Liver Trust.
The Guardian odnotował również przypadki nieścisłości w tematach dotyczących zdrowia psychicznego. Niektóre odpowiedzi AI na pytania o psychózę czy zaburzenia odżywiania były sprzeczne z zaleceniami ekspertów. Organizacja Mind podkreśliła, że takie treści mogą zniechęcać ludzi do szukania pomocy.
Google w odpowiedzi oświadczyło, że większość wyników generowanych przez AI Overviews jest „dokładna i przydatna”, a firma inwestuje w poprawę jakości wyników wyszukiwania. W komunikacie zaznaczono, że przypadki błędnych informacji będą analizowane i korygowane w ramach polityki bezpieczeństwa firmy.
Przypomnijmy, że pisaliśmy już o wprowadzeniu sztucznej inteligencji do europejskiego sektora bankowego i prognozowanym zniknięciu 200 tysięcy miejsc pracy do 2030 roku.
