Mimmo Wiestål Fischetti
Allt fler laddar upp sina journaler och hälsodata till AI-tjänster för att få svar på medicinska frågor.
Samtidigt växer oron för både integriteten och risken att AI ger övertygande, men felaktiga, råd.
Att fråga en AI om ett blodprov, ett nytt symtom eller ett läkarutlåtande har blivit allt vanligare.
Enligt en undersökning från den amerikanska hälsoorganisationen KFF har ungefär en tredjedel av de vuxna i USA redan använt AI för hälsorelaterade frågor.
Samtidigt rullar OpenAI ut en funktion där amerikanska användare kan koppla sina medicinska journaler och hälsodata direkt till ChatGPT för mer personliga svar, skriver KFF.
Tanken är att AI ska kunna förklara laboratorieresultat, sammanfatta förändringar över tid och hjälpa användaren att förbereda sig inför läkarbesök.
Men utvecklingen väcker också frågor om hur känsliga hälsouppgifter hanteras och hur tillförlitliga råden faktiskt är.
Integriteten avgör om AI är värd risken
OpenAI uppger att anslutna journaler och hälsodata inte används för att träna företagets modeller eller för riktad annonsering.
Företaget säger också att användaren när som helst kan koppla bort sina uppgifter och begära att informationen tas bort, enligt OpenAI.
Det räcker för vissa experter.
Dr. Bob Wachter, professor i medicin vid University of California, San Francisco, har själv laddat upp sina journaler.
– Jag tror på dem eftersom de har ett starkt affärsintresse av att hålla vad de lovar.
Han betonar samtidigt att risken aldrig är noll och att varje användare måste avgöra om nyttan överväger den återstående risken, skriver CNN Health.
Andra är betydligt mer skeptiska.
Bioetikprofessorn Art Caplan vid NYU menar att dagens lagstiftning inte ger tillräckligt skydd om uppgifter skulle läcka eller säljas vidare i framtiden.
Han pekar bland annat på dataintrång och den uppmärksammade turerna kring gentestföretaget 23andMe som exempel på hur känslig hälsodata kan hamna i nya händer.
AI kan missa akuta sjukdomar
Integritet är inte den enda oron.
Forskning visar att AI fortfarande kan ge felaktiga medicinska rekommendationer trots att svaren ofta låter säkra och övertygande.
Tidigare studier har visat att modeller ibland missar allvarliga tillstånd och i vissa fall inte rekommenderar akutsjukvård när läkare anser att patienten borde åka direkt till en akutmottagning.
OpenAI har samtidigt sagt att modellerna förbättras kontinuerligt och att de är utvecklade för att stödja – inte ersätta – vårdpersonal.
Experter rekommenderar därför att AI används som ett hjälpmedel för att förstå medicinsk information, inte som ett verktyg för att ställa diagnoser eller fatta beslut vid akuta besvär.
De ger också några konkreta råd:
- Dela bara den information du känner dig bekväm med.
- Be AI redovisa vilka fakta och källor svaret bygger på.
- Starta en ny konversation vid varje nytt hälsoproblem.
- Sök alltid vård direkt om symtomen känns allvarliga, även om AI ger ett lugnande besked.
Budskapet från forskarna är tydligt: AI kan göra medicinsk information mer begriplig och hjälpa patienter att ställa bättre frågor till vården.
Men ansvaret för viktiga medicinska beslut bör fortfarande ligga hos utbildad vårdpersonal.
