August M
Ett nätverk av Facebook- och Instagram-konton som sprider AI-genererat invandringskritiskt innehåll om Storbritannien drivs till stor del från utlandet, enligt en BBC-utredning.
Kontona utger sig för att vara brittiska röster som varnar för invandring och kulturellt förfall, men många är kopplade till aktörer i länder som Sri Lanka, Vietnam och Maldiverna.
Falska brittiska sidor
Ett Facebook-konto kallat ”Great British People” har fått över en miljon visningar med videor som visar AI-genererade scener och känslomässiga politiska budskap.
Enligt BBC hävdar sidan att den representerar Yorkshire trots att den drivs från Sri Lanka, baserat på Metas transparensdata.
Andra videor som cirkulerar online skildrar fiktiva scener som underhuset fyllt med män i traditionella arabiska kläder eller brittiska städer förvandlade till dystopiska landskap.
Koordinerat innehåll
BBC Panorama och podcasten Top Comment identifierade dussintals sammankopplade konton som delade liknande invandringskritiska teman.
Vissa sidor hade tidigare fokuserat på orelaterade ämnen som ”Make America Great Again” eller livet i USA innan de bytte till brittiskt politiskt innehåll utformat för att driva engagemang.
Professor Sander van der Linden vid University of Cambridge beskrev aktiviteten som en ”ny utveckling av påverkansoperationer” som syftar till att forma den allmänna opinionen med hjälp av AI-genererat material.
Politiska farhågor
Londons borgmästare Sir Sadiq Khan sade till BBC att en del av aktiviteten verkade kopplad till fientliga stater och politiskt motiverade grupper.
”Det finns statliga aktörer”, sade Khan och tillade att forskare hade identifierat tecken på rysk och kinesisk aktivitet tillsammans med online-nätverk kopplade till högerextrema politiska rörelser.
Han varnade också för att vilseledande AI-genererat innehåll som framställer London som farligt eller på väg att kollapsa skulle kunna skada turismen, investeringar och det internationella förtroendet för staden.
Vinst och splittring
Flera kontooperatörer berättade för BBC att deras mål var att maximera engagemanget och bygga upp publik snarare än att öppet bedriva politiska kampanjer.
En person bakom ett viralt konto sade: ”Jag postar mest för att få en reaktion för engagemangets skull, vilket ökar mina följare och mina intäkter.”
Enligt BBC koordinerar även vissa brittiska användare med utländska konton via privata gruppchattar för att förstärka invandringskritiska budskap online.
Förtroendet urholkas
Forskare varnade för att spridningen av AI-genererad desinformation skulle kunna göra människor mindre kapabla att skilja autentiskt innehåll från fabricerat material.
Professor Yvonne McDermott Rees vid Queen’s University Belfast sade att studier visar att många användare överskattar sin förmåga att upptäcka falskt innehåll online.
”Ju mer människor ser AI-innehåll, desto sämre blir de på att skilja fakta från fiktion”, sade hon.
Källor: BBC, BBC Panorama, Top Comment podcast, University of Cambridge
