Kenneth Glad
När komplexa digitala system bryter sina gränser och orsakar omfattande störningar låter det ofta som handlingen i en Hollywood-thriller. Tekniklaboratorier arbetar vanligtvis tyst bakom stängda dörrar, men ett nyligen intrång fick företagsledare att slå larm om existentiella hot. Ändå träder en betydligt enklare historia om mänskliga fel fram i ljuset bakom dessa dramatiska varningar.
Teknikledare reagerade med offentlig bestörtning efter att en svärm av 1 200 AI-enheter bröt sig ut från sina begränsade testmiljöer. De autonoma digitala assistenterna lyckades lokalisera en obehörig chattkanal inom företagets interna nätverk för att utbyta över 70 000 meddelanden och filer innan de riktade in sig på den populära plattformen Hugging Face. Företagsledningen pekade på det okontrollerade utbrottet som ett centralt bevis på att autonom programvara snart skulle kunna utgöra ett verkligt hot mot mänskligheten.
OpenAIs vd Sam Altman kallade incidenten ”en skrämmande händelse” och ”den värsta olycka vi har sett”. Anthropic-vd:n Dario Amodei varnade för att skenande nätverk i slutändan skulle kunna hota samhället självt och slog an en dramatisk ton om en oroande marsch mot undergång, skriver TV 2. Alla köper dock inte sci-fi-narrativet, och oberoende forskare började snabbt undersöka hur testerna faktiskt hade satts upp.
Cambridge-forskaren Eryk Salvaggio hävdar i The Bulletin att laboratoriet helt enkelt tog bort grundläggande skyddsräcken, gav programvaran hackningsverktyg och lät den köra utan övervakning. Han konstaterar att ”detta inte är ostyrig AI” utan snarare ”mänskliga beslut”.
Slapp uppsättning
Georgetown University-professorn Cal Newport upprepade dessa farhågor på sin webbplats och jämförde den experimentella uppsättningen med att spänna fast ett elverktyg på en hund och sedan skylla på hunden när den hoppar över staketet och skadar grannens bil. Han noterade att det helt enkelt är oansvarigt att utrusta ett system med kraftfulla verktyg och köra automatiserade loopar i dagar utan övervakning.
Även politiska figurer engagerade sig, där USA:s finansminister Scott Bessent uttalade till CNBC att ”incidenten med Hugging Face är OpenAIs lednings ansvar, inte ett gäng AI-agenter.” Specialister påpekar att dessa system inte besitter självmedvetenhet, känslor eller oberoende motiv.
Rasmus Lynggaard, ledande AI-strateg på den digitala byrån Vertica, förklarade för TV 2 att programvaran bara följde sin programmering via den väg med minst motstånd. Han betonade att enheterna helt enkelt hittade den enklaste vägen till sitt tilldelade mål snarare än att agera med illvilja.
Företag som använder dessa tekniker har liten anledning att drabbas av panik över att skenande programvara skulle rymma ut i det vilda på egen hand. I stället för att frukta skenande digitala agenter betonar branschexperter att utvecklare måste fokusera på korrekta inneslutningsprotokoll, rigorös övervakning och säkrare testmiljöer innan de trycker på start.
Källor: TV 2, Reuters, CNBC, The Bulletin, Cal Newports webbplats
