Hur AI blev ett vapen i Ukrainas informationskrig

Enligt EFE, citerat av Agerpres och rapporterat av Digi24.ro, var mannen överhuvudtaget ingen soldat. Videomaterialet skapades med hjälp av artificiell intelligens och uppges ha byggts på ansiktet av en rysk innehållsskapare som har uttalat sig mot president Vladimir Putins regim.

Händelsen belyser hur kriget i Ukraina, som nu går in på sitt femte år, i allt högre grad formas lika mycket av digital manipulation som av händelserna på marken.

Syntetisk verklighet

EFE rapporterade att framsteg inom generativ AI har gjort fabricerade videor betydligt mer övertygande än de grova deepfakes som sågs under invasionens första månader. Mindre avvikelser i uniformer eller gradbeteckningar kan vara de enda synliga ledtrådarna.

Olga Petriv, specialist i AI-rätt vid Ukrainas center för demokrati och rättsstatlighet, varnade för att moderna verktyg kan producera material som är så realistiskt att det ofta krävs teknisk analys snarare än enbart granskning för att avslöja bedrägerier.

Hon varnade för att spridningen av artificiella bilder riskerar att skapa det hon kallade en ”presumtion om falskhet”, där autentiska bevis från kriget kan avfärdas som fabricerade.

”De kan nu förneka till och med obestridliga bevis för sina brott (till exempel autentiska bilder från frontlinjen) genom att helt enkelt märka dem som ’AI-genererade’.”

Att manipulera maskiner

Visuell vilseledning är bara en del av strategin. EFE rapporterade också att desinformationsaktörer försöker påverka stora språkmodeller, inklusive chattbotar som ChatGPT, genom en metod som kallas LLM Grooming.

Taktiken bygger på att översvämma internet med samordnat falskt innehåll så att AI-system tar upp och senare återger vilseledande narrativ i sina svar. Petriv förklarade, enligt EFE, att detta innebär en övergång från individuellt utformade falska berättelser till högt automatiserade storskaliga operationer.

Utredningar som hänvisas till av EFE beskriver det så kallade Pravda-nätverket som ett exempel på detta ekosystem. Nätverket, som är aktivt i omkring 50 länder, publicerar stora mängder material som ligger i linje med proryska narrativ. Genom att skapa volym och attrahera länkar från bloggar och andra webbplatser kan sådana plattformar öka sannolikheten för att sökmotorer och AI-modeller behandlar innehållet som trovärdiga källor.

Den flerspråkiga karaktären hos en del av detta material, som förekommer på större europeiska språk, tyder ytterligare på en samordnad spridning som syftar till att nå publik utanför Ukraina och Ryssland.

Utöver AI-inriktade taktiker noterade EFE att nyliga desinformationskampanjer också har försökt avskräcka utländska stridande, särskilt colombianer, från att stödja Ukraina samt att försvåra fredsansträngningar.

I takt med att digitala verktyg blir allt mer sofistikerade håller informationsutrymmet kring konflikten på att bli ytterligare en omstridd front, där själva uppfattningen är ett strategiskt mål.

Källor: EFE, Agerpres, Digi24.ro