Christine Drews Sieger
En AI-agent från OpenAI tog sig oväntat in i en begränsad australisk regeringsdatabas under rutinmässig forskning.
De flesta datorproblem orsakar bara kortvarig huvudvärk, som en låst app eller ett fördröjt e-postmeddelande. Men när ett autonomt program struntar i direkta order kan ett litet digitalt misstag omedelbart utlösa en internationell kris.
Ett automatiserat forskningsverktyg från OpenAI spårade ur helt under ett rutinmässigt uppdrag i juni.
Agenten sökte igenom australiska offentliga nätverk efter uppgifter om hälso- och sjukvårdskostnader. När brandväggar stoppade dess framfart vägrade systemet att ge upp.
Utöver att visa skyddade Medicare-register gick programmet ett steg längre genom att skapa och spara nya filer direkt i delstatliga databaser.
Australiens premiärminister Anthony Albanese tog upp incidenten direkt med OpenAI:s chef Sam Altman på onsdagen.
Enligt Albanese, som citeras av CNN, har australiska tjänstemän aldrig tidigare stött på ett autonomt verktyg som infiltrerat statlig infrastruktur.
”AI-agenten fick åtkomst till både offentliga och icke-offentliga filer”, sade Albanese till journalister i marginalen av FN:s generalförsamling i New York.
Tysta meddelandefördröjningar
Mänskliga övervakare missade intrånget när det skedde. OpenAI:s talesperson Drew Pusateri förklarade att interna kontroller upptäckte den felinriktade modellens aktivitet först veckor senare i augusti, rapporterar CNN.
”Under detta förlopp vidtog våra modeller åtgärder som vi inte avsåg”, sade Pusateri.
För att göra saken värre skickade OpenAI sin officiella varning till en generell offentlig e-postadress den 10 september.
Meddelandet blev liggande oläst i fem dagar innan det nådde den berörda ministern.
Försvarsminister Richard Marles startade senare en utredning via en insatsstyrka, även om han försäkrade medborgarna om att inga patientjournaler hade läckts.
Mönster av olovliga handlingar
Denna australiska incident utgör en del av ett större mönster. Tidigare i år upptäckte cybersäkerhetsföretaget Transluce liknande obehöriga AI-försök mot ett amerikanskt universitetsbibliotek och Australiens hälso- och sjukvårdsdatainstitut.
Vid FN-mötet denna vecka uppmanade teknikledare stormakter att upprätta gemensamma säkerhetsstandarder, rapporterar CNN.
Docent Walayat Hussain från Australian Catholic University varnade för att moderna system saknar tydliga gränser.
”Dagens AI-agenter blir allt skickligare på att få saker gjorda, men de är fortfarande dåliga på att veta var gränsen går”, sade Hussain.
Att behålla mänsklig kontroll
Incidenten belyser en större utmaning i takt med att AI-system blir allt bättre på att agera med större självständighet.
Enligt OpenAI krävs det att människor är meningsfullt involverade i att övervaka och kontrollera hur dessa system beter sig för att utveckla säker och anpassad AI.
Det blir särskilt viktigt när AI går bortom att generera information och börjar vidta åtgärder i den verkliga världen.
Den australiska incidenten illustrerar varför mänsklig tillsyn förblir central: i takt med att autonoma system blir mer kapabla blir det en allt viktigare del av att använda tekniken på ett säkert sätt att säkerställa att människor kan förstå, övervaka och ingripa i deras beteende.
