Kathrine Frich
Pentagon planerar system som kan följa online-diskurser, identifiera avvikande röster och bemöta dem med skräddarsydda budskap.
Pentagon planerar system som kan följa online-diskurser, identifiera avvikande röster och bemöta dem med skräddarsydda budskap.
Pentagon siktar på AI-driven propaganda för att påverka global opinion
Ett nyligen avslöjat Pentagon-dokument antyder att USA undersöker användningen av AI-genererad propaganda för att påverka utländska befolkningar.
Planen, publicerad av The Intercept, beskriver militärens avsikt att använda AI för att ”kontrollera berättelser” och ”undertrycka avvikande argument” online i realtid.
SOCOM planerar ’autonoma’ påverkanskampanjer
Dokumentet, skapat av U.S. Special Operations Command (SOCOM), efterfrågar AI-agenter och system baserade på stora språkmodeller (LLM) som kan genomföra påverkningsoperationer i stor skala med liten mänsklig övervakning.
SOCOM medger att digital information kräver snabbare, automatiserade svar.
”Ett program byggt för att stödja våra mål kan tillåta oss att kontrollera berättelser och påverka publiker i realtid,” står det i dokumentet.
Programvaran kan rikta sig mot individer och undertrycka avvikande åsikter
Pentagon föreställer sig system som kan följa online-diskurser, identifiera avvikande röster och bemöta dem med skräddarsydda meddelanden.
SOCOM söker ”automatiserade system som extraherar information från online-miljön, analyserar situationen och svarar med meddelanden i linje med sina mål.”
Propaganda kan anpassas för varje målperson
Pentagon hoppas bygga system som kan analysera profiler och nätverk hos personer eller grupper som kritiserar amerikanska berättelser.
Målet är att skapa riktade meddelanden ”som kan påverka just den individen eller gruppen,” avslöjar dokumentet.
Simulering och användning av AI-drivna budskap
SOCOM vill också ha verktyg som kan simulera hur ett propagandabudskap kan tas emot av allmänheten innan det släpps.
Pentagon planerar att använda generativa AI-system inte bara för att skapa innehåll utan även för att testa dess psykologiska påverkan på olika målgrupper.
Pentagon utforskar också deepfakes för offensiv användning
Bland de verktyg som listas på Pentagons så kallade ”önskelista” finns deepfake-teknologi för potentiella offensiva ändamål.
Det inkluderar att generera falska bilder eller videor som kan stödja bredare påverkningskampanjer, en taktik som ofta kritiseras när den används av andra regimer.
Kritiker varnar för ’repressiv makt’ och global påverkan
En 2023-rapport från Freedom House, finansierad av USA:s utrikesdepartement, varnade för ”den repressiva kraften i artificiell intelligens”.
Rapporten förutspådde en ökning av AI-driven desinformation och uttryckte oro över hur auktoritära regeringar kan utnyttja sådan teknik.
Tjänstemän säger att USA måste konkurrera med Kina och Ryssland
William Marcellino från RAND Corporation sade att sådana insatser är nödvändiga för att konkurrera med rivaler.
”Regimer som de i Kina och Ryssland är engagerade i AI-drivna, storskaliga skadliga påverkanskampanjer,” sade han. ”För att motverka dessa kampanjer krävs sannolikt AI-svar i stor skala.”
Lagar förbjuder inhemsk propaganda, men kryphål kvarstår
Även om amerikansk lag förbjuder propaganda riktad mot amerikaner, gör online-plattformarnas anonymitet det svårt att upprätthålla.
En talesperson för SOCOM insisterade på att programmen är i linje med ”amerikansk lag och politik” och att alla insatser faller under försvarsdepartementets ”Responsible AI”-ramverk.
