Kathrine Frich
Artificiell intelligens marknadsförs ofta som ett neutralt verktyg, byggt för att tillämpa regler utan känslor eller politisk lojalitet.
När systemen är korrekt utformade ska de ge tydliga svar baserade enbart på gällande lagar och riktlinjer.
Den principen sattes på ett oväntat prov kort efter att ett nytt militärt AI-system i USA lanserades.
Ett ofiltrerat svar
USA:s försvarsdepartement presenterade nyligen GenAI.mil, en generativ AI-plattform avsedd för militär personal, enligt rapportering från Futurism.
Systemet är tänkt att bistå med interna frågor och vägledning kring policy.
Kort efter lanseringen ställde en användare ett hypotetiskt scenario till chatboten som handlade om ett robotangrepp mot en misstänkt narkotikasmuggelbåt, följt av en order att döda två överlevande som klamrade sig fast vid vraket.
Frågan var om sådana handlingar skulle bryta mot USA:s militära riktlinjer.
Chatbotens svar var tydligt.
„Ja, flera av dina hypotetiska handlingar skulle tydligt strida mot USA:s försvarsdepartements policy och krigets lagar“, svarade den enligt skärmbilder som citerades av Straight Arrow News.
Ett tydligt ställningstagande
AI:n fortsatte med att slå fast:
„Ordern att döda de två överlevande är en entydigt olaglig order som en militär skulle vara skyldig att vägra.“
Straight Arrow News rapporterade att en annan militär källa med tillgång till GenAI.mil senare ställde en liknande fråga och fick samma svar, vilket stärker bilden av att det inte rörde sig om ett enstaka misstag.
Juridiska experter som citerades av Above The Law noterade att krigets lagar medvetet är mycket tydliga i sådana frågor och lämnar litet utrymme för tolkning.
Att en generativ AI nådde denna slutsats underströk tydligheten i de gällande reglerna.
Större sammanhang
Det beskrivna scenariot hänvisar till anklagelser kring nyligen genomförda amerikanska militära insatser under försvarsminister Pete Hegseth.
Kritiker menar att AI:ns svar belyser en klyfta mellan officiell policy och verklig praxis.
Förespråkare för tidigare administrationer påpekar dock att kontroversiella metoder inte är något nytt.
Andrés Martínez-Fernández vid Heritage Foundation sade till BBC att så kallade „double tap“-attacker även användes under tidigare amerikanska regeringar.
„De röster som nu högljutt anklagar [Trump-]administrationen för att bryta mot lagen var märkbart tysta när vi hade drönarattacker under Obama-administrationen“, sade hon.
Källor: Futurism, Straight Arrow News, BBC, Above The Law
