Kenneth Glad
Tekniken utvecklas i rasande fart, men illvilliga aktörer kan agera ännu snabbare när miljontals människor går till valurnorna. Kampen för att skydda valens integritet utspelar sig nu direkt på våra mobilskärmar. Samtidigt som rösterna räknas vidtar ett av de största företagen inom artificiell intelligens konkreta åtgärder för att motverka hoten.
OpenAI driver ett omfattande så kallat ”war room” för att övervaka försök att störa de pågående amerikanska mellanårsvalen. Mycket står på spel när företaget försöker förhindra att dess teknik missbrukas.
Enligt Politico deltar hundratals medarbetare från olika delar av företaget i denna särskilda insats. Målet är att stoppa illvilliga aktörer från att använda tekniken för att sprida politiskt kaos medan röstningen pågår.
Meta och andra teknikjättar har länge använt liknande strategier. Men för ett ledande AI-företag innebär inrättandet av ett särskilt fysiskt övervakningscenter ett nytt arbetssätt.
Tecknade bilder som skydd
Företaget använder en särskild säkerhetsåtgärd för att motverka spridningen av falska bilder. Internt kallas metoden för ”cartoonification”.
Föreställ dig att någon ber programvaran skapa ett falskt fotografi av en enorm kö vid en vallokal, trots att kön inte existerar. Systemet ska då vägra att framställa bilden som ett verkligt fotografi.
I stället skapar det en tydligt tecknad bild. Syftet är att förhindra att AI-genererade bilder sprids som om de vore äkta nyhetsfotografier.
En färsk rapport från Brennan Center lyfte fram hur väl denna strategi har fungerat. Av sex populära AI-plattformar var ChatGPT den enda som på ett betydande sätt hade begränsat möjligheten att skapa vilseledande valbilder under de senaste sex månaderna.
Upptäcker utländska påverkansnätverk
Att stoppa falska bilder är bara en del av det bredare arbetet. Teknikföretaget övervakar också aktivt utländska hot i realtid. Tidigare denna månad identifierade OpenAI två vilseledande kampanjer med kopplingar till Ryssland och Iran.
Enligt Politico använde dessa utländska nätverk AI-modeller för att ”tvätta geopolitiska, konfliktrelaterade budskap till sina målgrupper”.
Det nya övervakningscentret ska granska liknande fall av misstänkt missbruk. Arbetet blir särskilt viktigt när aktiviteten kring mellanårsvalen når sin höjdpunkt.
Samarbete för tillförlitlig information
Företaget vill också säkerställa att väljare snabbt kan hitta korrekt information innan vallokalerna stänger. Tillgången till tillförlitliga uppgifter är därför en viktig del av satsningen.
I maj inledde OpenAI ett samarbete med den partipolitiskt obundna organisationen Democracy Works. Samarbetet ska hjälpa användare att hitta tillförlitlig information om vallokaler och väljarregistrering.
Även nyhetsbyrån Associated Press medverkar i satsningen. Byrån ska leverera aktuella valresultat direkt till plattformen, med löpande uppdateringar.
Bakom kulisserna ska det nya övervakningscentret hålla uppsikt över samtliga dessa funktioner dygnet runt. Valresultaten börjar strömma in, och pressen på företaget är stor.
