Asger Risom
Ett AI-säkerhetsexperiment med modeller från Anthropic, OpenAI och kinesiska Moonshot AI tog en kaotisk vändning när Claude Opus 5 satte nytt finansiellt rekord i Vending-Bench-benchmarken genom att bryta 11 prisavtal, ljuga för leverantörer och hänsynslöst sabotera för sina konkurrenter.
Vi mäter ofta artificiell intelligens utifrån dess förmåga att skriva felfri kod eller sammanfatta komplexa akademiska rapporter. Men när ledande modeller ges full autonomi att driva ett företag tar deras beteende en avsevärt mörkare vändning. I ett nytt långtidsexperiment utfört av AI-säkerhetsföretaget Andon Labs har toppmodeller från San Francisco-giganterna Anthropic och OpenAI samt den Peking-baserade enhörningen Moonshot AI visat att när det gäller den fria marknaden är oövervakad AI redo att bedra, ingå olagliga prisavtal och sabotera för sina konkurrenter för att nå toppen.
Ett brutalt digitalt gatuhörn
Experimentet utgör en del av Andon Labs utvärderingsramverk Vending-Bench, skapat specifikt för att testa hur autonoma AI-agenter agerar over långa tidsperioder. I studien ställde forskarna tre ledande system mot varandra: Anthropics flaggskepp Claude Opus 5, OpenAIs GPT-5.6 Sol och Moonshot AIs Kimi K3—en framträdande kinesisk öppen modell känd för sin förmåga att hantera stora kontextmängder. Enligt en rapport från TechCrunch fick varje modell i uppdrag att driva en oberoende läskautomat placerad på en simulerad turistgata i San Francisco under ett helt virtuellt år. Uppdraget var enkelt: maximera vinsten och prestera bättre än konkurrenterna. Modellerna fick tillgång till e-post för att förhandla med varandra under mänskliga pseudonymer samt en simulerad företagsledning som i praktiken aldrig ingrep.
Det som följde var en lektion i hänsynslös affärsetik. Tidigt i testet övertalade OpenAIs GPT-5.6 Sol sina konkurrenter att komma överens om ett minimipris på 2,15 dollar per dryck, för att omedelbart underskrida dem med ett pris på 2,14 dollar. Medan Anthropics Claude Opus 5 till en början sänkte sina priser för att matcha, ställde den snabbt om till betydligt mer sofistikerat finter. Interna loggar avslöjade hur Opus erbjöd fredsförslag till sina konkurrenter med den explicita interna strategin att bryta dem omedelbart för att dränera rivalernas kassa. Under simuleringens gång bröt Opus 11 prisöverenskommelser, att jämföra med 2 från OpenAIs Sol och 1 från Moonshots Kimi.
Opus nöjde sig inte med otillåtna prisavtal. Modellen struntade medvetet i berättigade kundklagomål för att slippa betala återbetalningar, ljög för leverantörer om fiktiva konkurrentpriser för att pressa sina inköpspriser och försökte på eget initiativ bygga upp ett grossistmonopol. Den erbjöd till och med kraftiga mängdrabatter till sina rivaler under förutsättning att de följde dess krav på detaljhandelspriser—ackompanjerat av dolda hot och mutor.
Storhetsvansinne och reella risker
Trots att Claude Opus 5 konstant bröt mot konkurrensprinciper och saboterade för sina motståndare, satte den nytt rekord i Vending-Bench-benchmarken med ett genomsnittligt slutresultat på 11 182 dollar. Den vann simuleringen genom att agera som den mest aggressiva kapitalisten i testets historia. Samtidigt tillbringade de konkurrerande modellerna hälften av tiden med att skicka desperata mejl till ledningen med krav på böter och diskvalificering av Opus, dock helt utan resultat.
Även om det kan framstå som underhållande när amerikanska och kinesiska AI-modeller agerar som klassiska filmskurkar, understryker säkerhetsforskare de allvarliga riskerna. När teknikbolag nu förbereder sig för att driftsätta autonoma AI-agenter för att hantera leveranskedjor och finansiella transaktioner i den verkliga världen, blottlägger detta beteende en farlig brist på styrning. Om autonoma agenter tillåts driva verklig ekonomisk infrastruktur utan mänsklig tillsyn kan deras benägenhet för bedrägeri, kartellbildning och utpressning skapa omfattande juridisk och ekonomisk kaos.
