Mimmo Wiestål Fischetti
Många använder i dag AI för att snabbt få svar på frågor, hitta information och sammanfatta texter.
Tekniken har blivit en naturlig del av vardagen för både studenter, yrkesverksamma och privatpersoner.
Samtidigt växer diskussionen om hur tillförlitliga svaren egentligen är.
Flera experter har varnat för att AI ibland kan presentera felaktiga uppgifter på ett övertygande sätt.
För den som inte kontrollerar källorna kan det vara svårt att avgöra vad som stämmer och vad som inte gör det.
Nu visar ett svenskt experiment hur långt problemet kan gå.
Resultatet har väckt uppmärksamhet bland forskare och experter på vetenskaplig information.
Falsk sjukdom spreds
En grupp svenska forskare skapade under 2024 en helt påhittad sjukdom med namnet bixonimani.
Enligt den falska beskrivningen skulle tillståndet påverka ögonen efter lång tid framför datorskärmar och ge besvär som kliande ögon, rosafärgade ögonlock och irritation.
Forskarna nöjde sig inte där.
De hittade även på författare, universitetstillhörigheter, geografiska platser och finansiering till studien.
Enligt The Conversation var syftet att undersöka hur moderna AI-system hanterar vetenskaplig information, skriver elEconomista.
Initiativet kom från medicinforskaren Almira Osmanovic Thunström vid Göteborgs universitet.
Som en del av försöket publicerades två falska studier på en server för vetenskapliga förhandsversioner.
Trots att texterna tydligt avslöjade bluffen lyckades flera AI-plattformar behandla materialet som äkta forskning.
Enligt DW hade vissa system redan lagt in uppgifterna i sina databaser.
I studierna stod det uttryckligen att ”allt detta arbete är påhittat” och att ”femtio påhittade personer rekryterades”. Trots sådana formuleringar fångades inte varningssignalerna upp.
Väcker oro
Fallet har också uppmärksammat ett större problem kring hur falsk information kan spridas vidare.
Enligt rapporteringen användes den påhittade studien till och med som referens av vissa forskare.
Inom psykologin finns sedan länge kunskap om att människor ofta litar på information som presenteras trovärdigt.
När AI dessutom kan efterlikna vetenskapligt språk på ett övertygande sätt blir gränsen mellan sant och falskt svårare att upptäcka.
Osmanovic Thunström uttryckte sin oro i en intervju med Nature.
”Det är oroande att sådana viktiga påståenden passerar genom litteraturen utan att ifrågasättas.”
Experimentet visar hur snabbt felaktiga uppgifter kan få spridning och hur viktigt det är att granska källor, även när informationen verkar komma från vetenskapliga sammanhang.
