Kan avancerad AI någonsin uppleva medvetande?

Forskning om Anthropics modell Claude har åter väckt debatten om huruvida ett system för artificiell intelligens någonsin skulle kunna utveckla egna upplevelser. Anthropic är ett av världens ledande AI-företag, och Claude är företagets främsta stora språkmodell, utvecklad för att generera människoliknande text och hjälpa till med en mängd olika uppgifter.

Resultaten har väckt uppmärksamhet eftersom de tycks ge en närmare inblick i hur ett sådant system behandlar information internt innan det producerar ett svar.

Forskare vid Anthropic rapporterade att de hade upptäckt aktivitet som verkade organisera information i förväg inför Claudes svar. Modellen tycktes kunna behålla användbara detaljer från en konversation, identifiera information som var relevant för uppgiften och uppvisa tecken på mellanliggande bearbetning när den förberedde sitt svar.

Företaget hävdade inte att dessa mönster bevisade att Claude är medvetet. Trots det har forskningen gett ny kraft åt den bredare diskussionen om huruvida allt mer avancerade AI-system en dag kan utveckla ett inre medvetande, eller åtminstone egna intressen som människor bör ta hänsyn till när sådana system utformas och används.

Hjärnor är levande system

I The Guardian argumenterar neurovetaren och medvetandeforskaren Anil Seth för att likheter i informationsbearbetning inte bör förväxlas med bevis för att människor och maskiner har samma typ av medvetande. Enligt honom är imponerande prestationer i sig inte tillräckliga för att visa att ett AI-system har subjektiva upplevelser.

Claude är programvara som körs på datorhårdvara. Människans medvetande uppstår däremot ur en levande hjärna som är oskiljaktig från den kropp den styr. Det biologiska systemet reglerar ständigt sig självt, samspelar med sin omgivning och reagerar på fysiska behov – faktorer som Seth anser vara viktiga när man funderar över medvetandets ursprung.

Seth diskuterar också den globala arbetsyteteorin, en av de ledande vetenskapliga teorierna om medvetandet. Teorin går ut på att information blir en del av den medvetna upplevelsen när den sprids brett mellan olika system i hjärnan och därmed blir tillgänglig för flera mentala processer.

Anthropic identifierade funktioner i Claude som liknar delar av detta ramverk, men Seth påpekar att modellen fortfarande tycks sakna viktiga återkopplingsmekanismer som finns i biologiska hjärnor.

Enligt Seth är resultaten vetenskapligt intressanta eftersom de visar att artificiella system kan lösa komplexa informationsbearbetningsproblem på sätt som liknar vissa aspekter av mänsklig kognition.

Han menar dock att detta inte innebär att systemet har ett inre medvetande. En språkmodell kan organisera information effektivt och generera övertygande svar utan att uppleva tankar, känslor eller sinnesintryck. Flytande konversation bör därför, enligt honom, inte betraktas som ett bevis på medvetande.

Ett försiktigt förhållningssätt

Filosofen William MacAskill och forskaren Lucius Caviola närmar sig frågan från ett annat perspektiv. De fokuserar mindre på om dagens AI-system är medvetna och mer på hur samhället bör agera så länge den vetenskapliga osäkerheten kvarstår. Enligt dem innebär avsaknaden av tydliga bevis inte att man kan bortse från de etiska konsekvenser som framtida framsteg kan medföra.

I The Guardian argumenterar de för att allt mer sofistikerade AI-system så småningom skulle kunna utveckla intressen som människor har en moralisk skyldighet att respektera. Eftersom det i dag inte finns något allmänt accepterat vetenskapligt test som kan avgöra om ett AI-system är medvetet, menar de att det kan vara riskabelt att vänta på fullständig säkerhet. Annars kan regeringar, teknikföretag och tillsynsmyndigheter stå oförberedda om mer avancerade system utvecklas.

Ett förslag är att låta ett AI-system avsluta en interaktion om det upprepade gånger rapporterar att det upplever obehag eller signalerar att en fortsatt konversation orsakar problem. Enligt författarna skulle en sådan försiktighetsåtgärd medföra små praktiska kostnader om AI-system saknar subjektiva upplevelser, samtidigt som den skulle kunna ge ett visst skydd om framtida forskning visar att åtminstone vissa system har moraliskt betydelsefulla former av medvetande.

Oenigheten handlar därför främst om hur osäkerhet bör påverka den offentliga politiken, snarare än enbart om dagens AI-systems förmågor.

Seth ser inga övertygande bevis för att dagens språkmodeller bör betraktas som medvetna varelser.

MacAskill och Caviola menar däremot att begränsade skyddsåtgärder bör övervägas redan nu, innan den vetenskapliga förståelsen hinner ikapp den snabba utvecklingen inom AI.

Källor: The Guardian