AI-bedragare utnyttjar Förintelsens offer för klick – väcker oro för den historiska sanningen

Tusentals AI-genererade bilder som utges för att föreställa scener från nazistiska koncentrationsläger sprids på sociala medier, enligt Historienet. Anonyma publicister kan tjäna pengar när dramatiska inlägg lockar kommentarer, delningar och annonsvisningar.

Den större risken är att upprepad exponering för förfalskningar kan få människor att börja ifrågasätta även äkta bevismaterial.

Iris Groschek, som arbetar vid minnesplatsen för koncentrationslägret Neuengamme utanför Hamburg, har varnat för att manipulerat material kan undergräva förtroendet för autentiska fotografier och vittnesmål.

Victoria Grace Richardson-Walden vid University of Sussex forskar om hur digital teknik förändrar undervisningen om Förintelsen och arbetet med att bevara minnet av den. Hon säger till Historienet att praktiska guider för att identifiera AI-genererade bilder kan bli inaktuella inom bara några veckor i takt med att tekniken utvecklas.

Verkliga offer används för att stärka falska berättelser

Några av de mest övertygande inläggen kombinerar verkliga personer med påhittade biografier eller händelseförlopp.

Helena Waterman-de Jong föddes i en judisk familj i Amsterdam 1916. Hon deporterades till Auschwitz och dödades den 2 augusti 1942. Historienet skriver att konton på sociala medier har använt hennes identitet tillsammans med fabricerade påståenden och ett AI-genererat porträtt.

Publikationen pekar på en till synes ofullständig axel som ett möjligt tecken på att bilden är AI-genererad. Det artificiella porträttet är också betydligt skarpare än det bevarade arkivfotografiet, vilket gör ansiktet lättare att känna igen.

Ett annat fall använder samma metod men lägger till en starkt känsloladdad berättelse. Inlägg om Henek Rosenfeld hävdar att han spelade musik av Franz Schubert medan fångar fördes mot gaskamrarna och att en tonårsflicka tackade honom eftersom det skulle bli den sista musiken hon hörde.

Historienet identifierade flera detaljer som verkade oförenliga med dokumenterade förhållanden i nazistiska koncentrationsläger, bland annat fångens utseende, klädsel och instrument. Tidningen rapporterade också att musiker i den beskrivna situationen skulle ha spelat i grupp, snarare än ensamma.

I båda fallen bidrar verkliga biografiska uppgifter till att få det påhittade materialet att framstå som trovärdigt. Den verkliga personen finns kvar, men den dokumenterade historien ersätts av fiktion.

Granska även kontot bakom bilden

Profilen bakom en bild kan avslöja lika mycket som själva bilden. Historienet lyfter fram kontot ”Archives of Silence”, som enligt uppgift har publicerat AI-genererat material i en takt på upp till 50 inlägg om dagen.

Den mängden bevisar inte att varje inlägg är falskt, men den ger anledning att granska innehållet närmare. Konton som återkommande publicerar sensationellt historiskt material i en exceptionellt hög takt kan använda automatiserade eller i hög grad AI-stödda system.

Läsare kan jämföra påståenden med dokumentation från museer och arkiv, undersöka om kläder och miljöer stämmer överens med tidsperioden samt använda omvänd bildsökning för att hitta äldre versioner. Sådana sökningar kan avslöja om en bild har beskurits, manipulerats eller skilts från sin ursprungliga beskrivning.

Det är också bra att kontrollera när bilden först publicerades och om en erkänd institution har dokumenterat personen eller scenen. Känslomässig genomslagskraft är i sig inget bevis på äkthet.

Ingen metod kan ge fullständig säkerhet. Noggrann granskning kan däremot bidra till att skydda det bevismaterial som minnesplatser, lärare, forskare och allmänheten använder för att förstå Förintelsen.

Källor: Historienet