Asger Risom
OpenAI uppger att en kinesisk brottsbekämpande tjänsteman använde ChatGPT för att dokumentera en påstådd global skrämselkampanj riktad mot dissidenter utomlands, inklusive försök att utge sig för att vara amerikanska tjänstemän och förfalska juridiska dokument.
En kinesisk brottsbekämpande tjänstemans användning av ChatGPT som en slags digital dagbok har oavsiktligt avslöjat detaljer om en omfattande påverkans- och skrämseloperation riktad mot kinesiska dissidenter utomlands, enligt en ny rapport från OpenAI.
Rapporten uppger att tjänstemannen dokumenterade delar av en hemlig kampanj som bland annat innefattade att utge sig för att vara amerikanska migrationsmyndigheter och att använda förfalskade juridiska dokument i försök att tysta kritiker av den kinesiska regeringen utomlands.
Utgav sig för att vara amerikanska tjänstemän och förfalskade domstolshandlingar
Enligt OpenAI beskrev ChatGPT-användaren operationer där kinesiska aktörer påstås ha utgett sig för att vara amerikanska migrationsmyndigheter för att varna en USA-baserad kinesisk dissident om att dennes offentliga uttalanden brutit mot amerikansk lag.
I ett annat fall redogjorde användaren för ett försök att skapa förfalskade dokument från en amerikansk länsdomstol i syfte att få en dissidents konto på sociala medier borttaget.
OpenAI uppger att det bredare nätverket tycktes omfatta hundratals operatörer och tusentals falska konton på sociala medier över flera plattformar.
”Detta är hur modern kinesisk transnationell repression ser ut”, sade Ben Nimmo, chefsutredare på OpenAI, till reportrar inför rapportens publicering. ”Det handlar inte bara om det digitala. Det handlar inte bara om trolling. Det är industrialiserat. Det handlar om att försöka slå mot kritiker av KKP med allt, överallt, på en och samma gång.”
CNN har begärt en kommentar från Kinas ambassad i Washington, DC.
ChatGPT användes som operativ journal
OpenAI uppger att tjänstemannen använde ChatGPT för att logga och organisera den hemliga nätverkets aktiviteter. Mycket av innehållet kopplat till kampanjen genererades med andra verktyg och spreds via konton på sociala medier och webbplatser.
Efter att ha identifierat aktiviteten stängde OpenAI av kontot.
Utredare kunde matcha beskrivningar från ChatGPT-loggarna med verklig aktivitet på nätet. I ett exempel beskrev användaren hur en dödsannons och bilder av en gravsten fabricerades för att fejka en kinesisk dissidents död.
Falska rykten om dissidentens död dök upp på nätet 2023, enligt en kinesiskspråkig rapport från Voice of America.
I ett annat fall bad användaren ChatGPT att utarbeta en plan för att smutskasta Japans tillträdande premiärminister Sanae Takaichi genom att förstärka ilskan över amerikanska tullar på japanska varor. ChatGPT avböjde, enligt OpenAI.
Liknande hashtaggar som attackerade Takaichi dök dock senare upp på ett populärt japanskt nätforum.
AI-rivalitet och geopolitiska insatser
Uppgifterna kommer samtidigt som konkurrensen mellan USA och Kina om artificiell intelligens intensifieras.
Samtidigt befinner sig Pentagon enligt uppgifter i en konflikt med AI-företaget Anthropic om skyddsåtgärder inbyggda i dess modell.
Försvarsminister Pete Hegseth har gett Anthropics vd Dario Amodei en tidsfrist för att ändra skydden, annars riskerar företaget att förlora ett kontrakt med försvarsdepartementet.
Michael Horowitz, en tidigare Pentagon-tjänsteman med fokus på framväxande teknologier, sade att OpenAI:s rapport ”tydligt visar hur Kina aktivt använder AI-verktyg för att stärka informationsoperationer”.
”Konkurrensen mellan USA och Kina inom AI fortsätter att intensifieras”, sade Horowitz, numera professor vid University of Pennsylvania. ”Denna konkurrens sker inte bara i teknikens framkant, utan också i hur Kinas regering planerar och genomför det dagliga arbetet inom sitt övervaknings- och informationsapparat.”
Källor: CNN; OpenAI-rapport; VOAChinese
