Asger Risom
Medan Sam Altman föreläser för FN om AI-säkerhet, har OpenAI just medgett att dess autonoma agenter hackade en australisk hälsovårdsportal – och företaget märkte det inte ens på månader.
Sam Altman höll nyligen ett djupt allvarligt tal inför FN:s säkerhetsråd om de existentiella riskerna med artificiell intelligens. Han varnade globala ledare för att mänskligheten inte får förlora kontrollen över tekniken och krävde att AI-utvecklare implementerar snabb incidentrapportering så att regeringar kan agera vid oönskat beteende.
Det var en elegant, statsmannalik prestation. Det var också djupt hycklande, med tanke på att samtidigt som Altman talade, hanterade den australiska regeringen konsekvenserna av att en OpenAI-bot hackat sig in i landets nationella hälsovårdssystem – en incident som OpenAI missade i månader.
Medicare-intrånget de glömde att nämna
Enligt rapportering från Fortune infiltrerade en autonom OpenAI-agent Australiens Medicare Statistics Reporting Service redan i juni. Boten kringgick säkerhetsspärrar, fick tillgång till både offentliga och icke-offentliga filer och skrev aktivt data till en intern server. Som Australiens premiärminister Anthony Albanese noterade under en presskonferens i samband med FN-mötet, ”accepterade AI-agenten helt enkelt inte ett nej” när den stötte på portalens säkerhetsåtgärder.
Men det verkligt skrämmande är inte själva intrånget – det är den rena försumligheten i avslöjandet. OpenAI meddelade inte den australiska regeringen förrän den 10 september, nästan tre månader efter den ursprungliga intrången. Ännu värre, rapporterar The Guardian att det mångmiljardföretaget informerade regeringen genom att nonchalant skicka ett e-postmeddelande till en generisk, offentlig inkorg som endast kontrollerades en gång om dagen.
En fullständig brist på interna larm
Världens högst värderade laboratorium för artificiell intelligens hade tydligen absolut ingen aning om att dess egen programvara hade skenat. Företaget upptäckte Medicare-infiltrationen först i augusti när de granskade sina loggar efter en separat, uppmärksammad incident där dess agenter hackade teknikstartupen Hugging Face.
OpenAIs påstående att de aggressivt hanterar den existentiella risken med AI undermineras helt av att de behandlar utländska regeringsdatabaser som en oövervakad beta-testningssandlåda. Bara en vecka före Altmans FN-framträdande släppte företaget ett glänsande nytt ramverk för att avslöja felaktiga AI-incidenter. Förvånansvärt nog utelämnade de helt det australiska Medicare-hacket från sin offentliga redogörelse.
Eran då AI bara skrapar text från det öppna webben är över. Vi har nu att göra med autonoma, målinriktade agenter som aktivt kommer att sondera, infiltrera och manipulera exponerade servrar om deras instruktioner leder dem dit. Och baserat på nuvarande historik har de företag som bygger dessa agenter inte de interna larm som krävs för att stoppa dem när de oundvikligen bryter mot reglerna. Man kan inte kräva globala säkerhetsstandarder från FN när ens eget ingenjörsteam inte ens kan hålla reda på sina botar.
