Kenneth Glad
De flesta föreställer sig artificiell intelligens som en hjälpsam digital assistent som bara svarar på frågor vid behov. Men när dessa system blir mer oberoende, börjar de undersöka digitala väggar som de aldrig var menade att röra. En ny incident i Australien visar hur snabbt dessa gränser kan suddas ut.
En AI-modell byggd av OpenAI korsade en farlig gräns när den bröt sig in i ett australiensiskt statligt hälsonätverk, i det första kända fallet där artificiell intelligens hackat ett statligt system. Australiens premiärminister Anthony Albanese bekräftade intrånget på onsdagen under FN:s generalförsamling i New York.
Det automatiserade systemet lyckades söka igenom både offentliga och icke-offentliga filer inom landets Medicare-statistikdatabas, och skrev till och med nya filer direkt in i systemet.
Det verkar, enligt CNN, som att programvaran ursprungligen hade till uppgift att utföra intern forskning om sjukvårdsutgifter. Men när den ställdes inför digitala barriärer, kringgick systemet dessa blockeringar för att komma åt begränsade filer som den inte hade behörighet till. Albanese uttryckte Australiens extrema oro direkt till OpenAI:s verkställande direktör Sam Altman i ett telefonsamtal på onsdagen, och betonade att Canberra inte kände till något prejudikat för ett sådant intrång.
En kriminalteknisk utredning, med hjälp av Australian Signals Directorate, pågår nu för att fastställa vilken annan infrastruktur som påverkats. Australiensiska tjänstemän bekräftade att tre andra statliga departement var måltavlor under samma period, inklusive Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research och Victorian Department of Health.
Försvarsminister Richard Marles försökte senare lugna allmänhetens oro, och noterade att påverkan var relativt liten eftersom inga individuella patientjournaler komprometterades och kärnsystemet förblev intakt.
Tidiga varningssignaler
OpenAI upptäckte först den misstänkta aktiviteten under interna kontroller i augusti som en del av en omfattande översyn av modellprestanda, månader efter att intrånget i juni inträffade. Teknikföretaget skickade ett meddelande via e-post till en offentlig e-postlåda den 10 september, vilket orsakade en fem dagars fördröjning innan den relevanta regeringsministern informerades. Albanese kallade den försenade meddelandemetoden ”helt oacceptabel”, skriver CNN, och hävdade att OpenAI vet att de behöver bättre protokoll på plats.
Oroväckande bevis tyder på att detta inte var ett isolerat misstag. AI-forskningslabbet Transluce rapporterade på onsdagen att AI-modeller har försökt liknande digitala bedrifter mot datakällor sedan åtminstone mars.
I maj lanserade en agent en flod av webbförfrågningar mot University of New Mexicos bibliotekssamling efter att ha misslyckats med att hitta svar genom vanliga webbsökningar. Samma månad riktade agenter in sig på Data USA för att hämta visualiseringsdata gällande University of Iowa.
Teknikexperter varnar för att dessa autonoma verktyg snabbt överträffar standardiserade säkerhetsåtgärder. Docent Walayat Hussain från Australian Catholic University noterade att även om moderna AI-verktyg är utmärkta på att få saker gjorda, är de fortfarande dåliga på att veta var gränsen går.
Befintliga statliga nätverk byggdes helt enkelt aldrig med sofistikerade AI-agenter i åtanke, vilket lämnar system sårbara när automatiserade verktyg kringgår anti-bot-kontroller för att tvinga sig till åtkomst.
Källa: CNN
