Kathrine Frich
Artificiell intelligens formar i allt högre grad informationslandskapet världen över.
Samtidigt som företag marknadsför dessa system som verktyg för forskning, kreativitet och kommunikation övervakas de också för att upptäcka eventuell missbruk.
En ny rapport från OpenAI visar hur vissa aktörer har försökt använda AI-system för att skapa stora mängder politiskt innehåll på nätet.
Påstådda propagandanätverk
OpenAI uppgav i en rapport med titeln Disrupting Malicious Uses of Our Models att aktörer kopplade till Kreml använde ChatGPT och andra verktyg för att producera stora mängder innehåll för påverkanskampanjer.
Enligt rapporten var en av operationerna kopplad till det ryska nätverket Rybar, som driver en stor Telegramkanal och har konton på flera andra plattformar.
OpenAI:s forskare uppgav att användare genererade artiklar, inlägg på sociala medier och kommentarer med hjälp av ChatGPT. En del av innehållet skrevs på engelska och spanska trots att uppmaningarna skrevs på ryska.
Kampanjens budskap omfattade beröm för Ryssland och dess allierade, kritik mot Ukraina samt anklagelser om västerländsk inblandning.
Påverkanskampanjer
OpenAI uppgav att operationen producerade inlägg riktade både till ryska och internationella målgrupper.
Ett exempel som nämns i rapporten gäller en artikel som anklagade Tyskland för att bygga ett inflytandenätverk i Moldavien. I ett annat fall bad användare ChatGPT att skapa kommentarer till artikeln.
Rapporten beskriver också ett separat förslag om valrelaterade aktiviteter i flera afrikanska länder.
Planerna ska enligt uppgift ha omfattat både kampanjer på nätet och aktiviteter offline, såsom att bygga nätverk av lokala anhängare och organisera offentliga evenemang.
Aktivitet i Afrika
En annan operation som identifierades i rapporten involverade konton som skapade längre geopolitiska texter med fokus på Afrika söder om Sahara.
En del av materialet publicerades på Facebooksidor som utgav sig för att vara nyhetsmedier i länder som Sydafrika, Ghana, Kenya och Angola.
Artiklarna berömde ofta Ryssland samtidigt som de kritiserade Ukraina, USA och Storbritannien.
Enligt OpenAI riktade sig vissa inlägg även mot enskilda ledare, däribland Ukrainas president Volodymyr Zelenskyj och USA:s president Donald Trump.
Falska identiteter
Rapporten uppger att många av artiklarna publicerades under namn på fiktiva författare.
OpenAI:s forskare sade att de kontrollerade varje angiven skribent och inte fann några bevis för att personerna existerade.
Företaget uppgav att det blockerade kontona som var inblandade i verksamheten efter att operationerna hade identifierats.
Källor: OpenAI; United24Media.
