Ida Hansson
En ny forskningsstudie från MIT, publicerad i den medicinska tidskriften The New England Journal of Medicine, väcker oro kring användningen av artificiell intelligens i vården.
Trots att tekniken ofta upplevs som tillförlitlig visar resultaten att en betydande andel av AI-baserade medicinska bedömningar är felaktiga.
Fynden stärker tidigare varningar från vårdpersonal om att AI inte bör ersätta professionell medicinsk rådgivning.
Oroande resultat
Studien visar att omkring var fjärde medicinsk diagnos som genereras av AI inte stämmer. Ändå fortsätter många användare att sätta stort förtroende till dessa verktyg.
Forskarna bakom studien understryker vikten av att medicinska råd alltid kontrolleras mot kvalificerad vårdpersonal, särskilt när det gäller allvarliga eller komplexa symtom.
Föredrar AI:s svar
I undersökningen deltog 300 personer, både med och utan medicinsk bakgrund.
Deltagarna fick bedöma svar på medicinska frågor som kom från tre olika källor: vårdpersonal, en digital hälsoplattform och ett AI-system.
Många upplevde AI-svaren som mer utförliga och övertygande än de mänskliga alternativen. Detta gällde även när deltagarna informerades om att träffsäkerheten inte var fullständig.
Flera uppgav dessutom att de var beredda att följa AI-systemets rekommendationer.
Svårt att skilja åt
Ett centralt resultat är att deltagarna ofta hade svårt att avgöra om en diagnos kom från en människa eller från ett AI-system.
Det bidrar till riskerna, enligt forskarna.
När felaktiga bedömningar inte identifieras i tid kan det leda till negativa hälsokonsekvenser, särskilt om råden upplevs som trovärdiga.
Effekter även för forskningen
Utvecklingen påverkar även forskarsamhället. AI-verktyg har bidragit till ett ökat antal vetenskapliga publikationer, men samtidigt ifrågasätts kvaliteten.
Tidigare analyser visar att forskare som använder AI publicerar fler artiklar, särskilt i länder där engelska inte är huvudspråk. Samtidigt varnar experter för att kvaliteten kan bli lidande.
Mot denna bakgrund betonas behovet av tydliga regelverk som kan hålla jämna steg med den snabba teknikutvecklingen inom både vård och forskning.
Källa. El Economista
