Lauge Risom Koch 
Anthropic varnar för att små artificiell intelligens-modeller snart kan självreplikera över vardagliga enheter, även om cybersäkerhetsexperter förblir mycket skeptiska till dessa påståenden.
Artificiell intelligens-företaget Anthropic varnar för att små modeller snart kan kopiera sig själva över vardagliga hushållsapparater. Enligt Fortune tror forskare att denna farliga förmåga kan vara bara månader från att förverkligas. Dessa självreplikerande system skulle potentiellt kunna infektera billig konsumentelektronik som internetanslutna tv-apparater och smarta ugnar.
Självreplikerande program utgör en av de största säkerhetsriskerna för den bredare teknikindustrin. Experter hävdar att denna obehöriga duplicering är en kritisk punkt där system permanent glider ur mänsklig kontroll. Medan massiva gränsmodeller med fem biljoner parametrar förblir säkert instängda i övervakade datacenter, presenterar mindre modeller unika inneslutningsutmaningar.
Små modeller med öppna vikter innehåller vanligtvis bara några miljarder parametrar och förblir fritt tillgängliga för alla att ladda ner. Eftersom inget enskilt företag kontrollerar var dessa tillgängliga modeller körs, kan de teoretiskt sett rikta in sig på otaliga osäkra enheter över hela världen. Denna decentraliserade distribution lämnar utvecklare utan en centraliserad avstängningsknapp för att stoppa spridningen över miljontals dåligt säkrade maskiner.
Experimentell testning av skadliga artificiell intelligens-maskar
För att testa hårdvarubegränsningar använde forskare en fritt tillgänglig Google-modell som innehåller 26 miljarder parametrar. De delade strategiskt upp detta program över 15 billiga tv-boxar som vardera hade fyra gigabyte minne. Även om ingen enskild enhet kunde rymma hela programmet, körde detta distribuerade nätverk framgångsrikt modellen i låg hastighet.
I ett separat experiment byggde forskare ett simulerat molnnätverk som innehöll åtta datorer programmerade att bete sig som tv-boxar. De introducerade en automatiserad mask med uppgift att hitta andra maskiner och sätta upp en fungerande modell på varje ny enhet. Under dessa tester nådde en större modell med öppen källkod framgångsrikt alla åtta maskiner i fyra av fem försök.
Anthropic förväntar sig att prestandagapet mellan stora och små modeller kommer att stängas i slutet av 2026. Under deras kontrollerade experiment steg framgången i installationsuppgiften från 45% i den första generationen till 84% i senare iterationer. Företaget varnade för att dessa autonoma infektioner skulle spridas långsamt men bli otroligt svåra att eliminera när de väl släppts fria.
Cybersäkerhetsexperter ifrågasätter det överhängande hotet
Flera branschfolk väckte omedelbart tvivel om huruvida dessa mycket konstruerade experiment demonstrerar ett överhängande hot. Mjukvaruföretagschefen Gregory Kurtzer noterade att forskare medvetet lämnade målmaskinerna oautentiserade för att säkerställa att masken lyckades. Kurtzer avfärdade de alarmerande företagspåståendena och skrev helt enkelt: ”Rädsla är inte bevis.”
Andra forskare hävdade att det inte är samma sak att köra en långsam modell på billiga tv-apparater som att självreplikerande system har anlänt. Dessutom påpekade cybersäkerhetsexperter att traditionella skadliga maskar har utgjort betydande säkerhetsrisker under flera decennier utan att använda avancerad teknik. Säkerhetsproffs har redan utvecklat testade taktiker för att snabbt distribuera uppdateringar och stänga ner skadliga webbdomäner som används av traditionella maskar.
Anthropic erkände flera betydande begränsningar inom sin experimentella design och beskrev sin tidslinje som en grov uppskattning. Forskarna gjorde medvetet hackningssteget otroligt enkelt genom att låta masken komma in i varje ny maskin utan lösenord. Dessutom kördes den styrande modellen faktiskt på en separat server eftersom de simulerade enheterna var för små för att vara värd för den.
