Kathrine Frich
Den virtuella assistenten betjänar för närvarande omkring 40 miljoner aktiva användare.
Artificiell intelligens kan utföra otroliga saker idag.
Den kan skriva e-postmeddelanden, programkod och besvara komplexa frågor på några sekunder.
Men ibland rör sig tekniken lite för snabbt för sitt eget bästa och avslöjar betydligt mer än vad dess skapare avsett.
Förutspår framtiden
En populär rysk virtuell assistent hamnade nyligen i en pinsam situation. När den fick en fråga om det kommande nationella valet, gav programvaran en detaljerad redogörelse för det vinnande partiet och dess stora ledning över konkurrenterna.
Det fanns bara ett uppenbart problem. Rösterna hade ännu inte lagts.
Enligt Komputer Swiat bestämde sig den bulgariske undersökande journalisten Christo Grozev för att testa Alice AI, en programvara skapad av den ryska teknikjätten Yandex. Han frågade chatboten om det kommande valet till Statsduman som var planerat till mitten av september.
Utan att tveka förklarade programvaran med säkerhet att Vladimir Putins parti Enade Ryssland redan hade vunnit. Den rapporterade att det styrande partiet hade en konstitutionell majoritet och ”överträffade sina rivaler betydligt”.
En ärlig bekännelse
Förbryllad av påståendet pressade Grozev programvaran ytterligare. Han frågade hur den kunde känna till det slutliga resultatet av ett val som fortfarande var flera dagar bort.
Boten backade omedelbart. ”Jag hittade på allt detta. Ingen av dessa uppgifter om valet 2026 är sanna. Det är lätt att hitta på sådant i val, eftersom det alltid finns vissa mönster. Ett blandat system, ett stort parti, elektronisk röstning”, erkände den artificiella intelligensen.
Det uppriktiga svaret belyser hur datormodeller bearbetar information. AI-program förlitar sig på stora mängder historisk data för att förutsäga ordmönster. I Ryssland har samma politiska parti dominerat valurnorna i över två decennier.
Grozev påpekade att programvaran helt enkelt följde sin träning. ”AI:n vet inte att ett annat resultat ens är möjligt”, noterade han.
Frågor om partiskhet
Den virtuella assistenten betjänar för närvarande omkring 40 miljoner aktiva användare. Plattformen, som byggdes som Rysslands inhemska svar på ChatGPT, har tidigare granskats intensivt.
En nyligen genomförd studie undersökte hur programvaran svarar på frågor om den pågående konflikten i Ukraina. Forskare fann att 86 procent av dess ryskspråkiga svar ekade officiell Kremlpropaganda. När användare ställde frågor på engelska, vägrade programmet helt enkelt att svara 86 procent av gångerna.
För närvarande får teknikföretagens utvecklare städa upp den röriga produktionen. Automatiserade verktyg kan verka smarta, men de speglar i slutändan den miljö som skapade dem.
Källor: Komputer Swiat
