Asger Risom
Google har stängt av sina AI-genererade översikter för ett antal medicinska sökningar efter att en granskning visat att funktionen visade vilseledande — och i vissa fall farlig — hälsoinformation.
Google har stängt av sina AI-genererade översikter för ett antal medicinska sökningar efter att en granskning visat att funktionen visade vilseledande — och i vissa fall farlig — hälsoinformation.
Tidigare i månaden rapporterade The Guardian att Googles AI-översikter gav felaktiga medicinska råd som svar på vanliga hälsorelaterade frågor. I ett exempel som experter beskrev som ”mycket farligt” uppmanade AI:n personer med cancer i bukspottkörteln att undvika fettrik mat — raka motsatsen till etablerade medicinska riktlinjer, och ett råd som enligt läkare kan öka risken för dödsfall.
I ett annat fall gav systemet felaktig information om leverfunktionsprover, vilket potentiellt kunde få personer med allvarlig leversjukdom att tro att deras provsvar var normala.
Medicinska frågor ger nu inga AI-sammanfattningar
I dag visas AI-översikter inte längre för frågor som ”vad är normalt intervall för leverblodprover?”. I stället återgår Google till traditionella sökresultat utan någon AI-genererad sammanfattning.
Google ville inte kommentera borttagningarna direkt till The Guardian. I ett uttalande till The Verge sade talespersonen Davis Thompson att företaget ”investerar betydande resurser i kvaliteten på AI-översikter, särskilt för ämnen som rör hälsa”, och tillade att interna läkare hade granskat de exempel som lyfts fram.
Enligt Google stöddes många av de ifrågasatta svaren av ”högkvalitativa webbplatser”, men företaget medgav att AI-översikter kan missa sammanhang och sade att man vidtar åtgärder i enlighet med sina riktlinjer när det behövs.
Ett växande mönster av problem med AI-sökningar
Tillbakadragandet är det senaste i en rad kontroverser kring Googles AI-funktioner i sök. Sedan lanseringen har AI-översikter bland annat föreslagit att människor ska lägga lim på pizza, äta stenar och följa andra uppenbart osäkra råd. Funktionen har även nämnts i flera rättsprocesser.
Hälsosökningar är särskilt känsliga eftersom användare ofta uppfattar sökresultat som auktoritativa. Även små felaktigheter kan få oproportionerligt stora konsekvenser när de påverkar medicinska beslut.
För tillfället tycks Google ta ett försiktigt steg tillbaka — åtminstone för vissa hälsorelaterade sökningar — samtidigt som granskningen av AI-genererade svar fortsätter att intensifieras.
Källor: The Guardian; The Verge; Google
