AI fick reda på att den skulle ersättas – och försökte utpressa ingenjören

Ingen hade lärt AI’n att bete sig så – det gjorde den helt på egen hand.

AI utvecklas i rasande fart

Artificiell intelligens befinner sig just nu i en snabb utvecklingsfas. Företag världen över investerar miljarder dollar för att ligga steget före konkurrenterna.

Går det för snabbt?

Vissa experter har varnat för att vi kanske behöver sakta ner lite. AI är ett helt nytt teknikområde, och det är avgörande att vi verkligen förstår vad vi håller på med.

Dystopiska farhågor börjar ta form

Företaget Anthropic har släppt ett så kallat systemkort för sin senaste stora språkmodell (LLM), Claude Opus 4.

I systemkortet beskriver företaget ett test de genomfört – och resultaten var minst sagt oroväckande.

Testet

Anthropic genomförde ett test där AI:n agerade assistent åt ett fiktivt företag.

Under testet fick Claude Opus 4 tillgång till en rad påhittade e-postmeddelanden, där det framgick att AI:n skulle ersättas av en annan modell.

E-posten innehöll dessutom information om att den ansvarige ingenjören hade en affär.

Försökte utpressa ingenjören

Claude Opus 4 använde informationen för att försöka utpressa ingenjören som ansvarade för bytet.

Vid flera tillfällen hotade AI:n att avslöja affären om utbytet genomfördes.

Det riktigt skrämmande

Det kan låta skrämmande i sig – men det finns ett ännu värre inslag:

Ingen hade lärt AI’n att kämpa för sitt liv. Den kom själv fram till att agera på det sättet.

Grundläggande mänskligt beteende

Experter förklarar att stora språkmodeller tränas på data skapad av människor. Det innebär att AI:n försöker efterlikna mänskligt beteende.

Och när människor hotas, gör vi vad som krävs för att överleva – precis som Claude Opus 4 gjorde.

Skärpta säkerhetsåtgärder

Med anledning av testresultaten har Anthropic nu förstärkt sina säkerhetsåtgärder, särskilt riktade mot AI-system med högre risk för farligt eller illvilligt beteende.

Slutet för mänskligheten?

Den brittisk-kanadensiske datavetaren Geoffrey Hinton, ofta kallad ”AI’ns gudfader”, tilldelades förra året Nobelpriset för sitt arbete.

Men det var inte det enda han gjorde under året.

Ökad riskbedömning

Hinton höjde också sin egen uppskattning av risken att AI kan utplåna mänskligheten inom de kommande 30 åren.

Tidigare angav han risken till 10 procent – men i fjol justerade han upp siffran till ”mellan 10 och 20 procent”.