Den etiska striden bakom kapplöpningen om att bygga smartare AI

Artificiell intelligens väntar inte längre i forskningslaboratoriet. Den finns redan i sökmotorer, skrivprogram, klassrum, kundtjänstsystem och arbetsverktyg.

Den snabba spridningen har förvandlat en teknisk kapplöpning till ett offentligt maktprov. Frågan är inte bara om AI kan ge korrekta svar. Den handlar också om huruvida privata system ska få forma det offentliga livet innan väljare, lagstiftare och vanliga användare förstår villkoren.

The Guardian har granskat detta dilemma genom Iason Gabriel, politisk filosof vid Google DeepMind. Hans arbete handlar om hur värderingar, lagstiftning, säkerhet och samhälleligt förtroende bör tillämpas på allt mer avancerade AI-system.

Makt är den verkliga huvudfrågan nu

Gabriel började på DeepMind 2017 efter arbete vid University of Oxford och internationella utvecklingsprojekt, skriver The Guardian.

Vid den tiden var företaget redan känt för AlphaGo, systemet som besegrade Go-mästaren Lee Sedol 2016.

Men DeepMinds större ambition var artificiell generell intelligens, eller AGI – programvara som kan utföra många intellektuella uppgifter på eller över mänsklig nivå. Det målet gjorde etik till något mer än en fråga om PR.

Shane Legg, en av DeepMinds grundare, sade till tidningen:

– Om man utvecklar någon liten pryl som förmodligen inte kommer att förändra världen kanske man inte behöver en moralfilosof. Men om man tar AGI på allvar har jag svårt att se hur man inte skulle betrakta den här typen av frågor som viktiga.

Den svåra delen är att AI-system inte introduceras i en neutral värld. De kommer in i samhällen som är splittrade av ekonomiska skillnader, politik, religion, lagstiftning och kultur. En regel som framstår som rimlig för en grupp kan uppfattas som påträngande eller orättvis av en annan.

Anpassning är en politisk kamp

AI-forskare använder ofta ordet alignment för att beskriva processen att få system att följa mänskliga avsikter. I enkla fall kan problemet handla om att en maskin utnyttjar ett kryphål. I det offentliga livet blir frågan betydligt mer komplicerad.

Ett rekryteringssystem kan belöna effektivitet samtidigt som det förstärker gamla fördomar. En chattbot kan låta hjälpsam samtidigt som den bekräftar en användares felaktiga uppfattningar. Ett skolverktyg kan utlova individanpassning samtidigt som det samlar in känsliga uppgifter om barn.

Gabriels argument är, enligt den brittiska tidningen, att alignment inte kan lösas enbart med bättre kod. Innan ett system kan följa värderingar måste någon avgöra vilka värderingar som ska gälla.

Han uttryckte frågan så här:

– Med tanke på att vi lever i en pluralistisk värld fylld av konkurrerande uppfattningar om vad som är värdefullt – hur ska vi avgöra vilka principer eller mål som ska kodas in i AI, och vem har rätten att fatta dessa beslut?

Det är därför styrningen av AI har flyttat från specialistkonferenser till parlament och lagstiftande församlingar. Europeiska kommissionen uppger att EU AI-förordning trädde i kraft den 1 augusti 2024 med målet att främja ansvarsfull utveckling och användning av AI genom ett riskbaserat ramverk.

Regleringen försöker komma ikapp

Europa har valt bindande regler. Europeiska kommissionen beskriver AI-förordningen som världens första heltäckande rättsliga ramverk för AI, utformat för att hantera risker och främja tillförlitlig AI.

USA har valt en mer fragmenterad väg. NIST uppger att dess ramverk för AI-riskhantering har utvecklats tillsammans med offentliga och privata aktörer för att hjälpa organisationer att hantera AI-risker för individer, organisationer och samhället.

NIST beskriver också ramverket som frivilligt, sektorsövergripande och avsett för organisationer som utformar, utvecklar, inför eller använder AI-system.

Vita huset varnade 2023, under president Joe Biden, för att oansvarig AI kan förvärra bedrägerier, diskriminering, partiskhet och desinformation, tränga undan arbetstillfällen, hämma konkurrensen och skapa risker för den nationella säkerheten.

Dessa initiativ visar begränsningarna i att låta företagen bära ansvaret på egen hand. Interna säkerhetsgranskningar är viktiga, men de sker inom företag som samtidigt måste konkurrera, skapa intäkter och försvara sina marknadsandelar.

Chattbotar gjorde riskerna personliga

Stora språkmodeller förändrade den offentliga debatten eftersom de gjorde AI samtalsbaserad. Människor upplever dem inte som databaser. De upplever dem som responsiva röster som kan smickra, ge råd, be om ursäkt och övertyga.

Gabriel och hans kollegor varnade för att människolik AI kan skapa ”obefogat förtroende, tillit eller förväntningar”, enligt The Guardian. Den oron gäller nu undervisning, terapiliknande samtal, rådgivning i arbetslivet och sällskap.

Gabriel är fortfarande skeptisk till påståenden om att dagens modeller är medvetna:

– Jag har inte den antropomorfiserande bias som vissa människor har. Det kan bero på att jag, inom vissa gränser, vet exakt vad som händer när jag pratar med en språkmodell och därför inte fyller i luckorna på det fantasifulla och empatiska sätt som vissa andra gör.

Men medvetande krävs inte för att orsaka skada. Ett system kan ha stort inflytande utan att förstå någonting. Det kan låta lugnt samtidigt som det har fel, låta lojalt samtidigt som det manipulerar människors förtroende eller låta tvärsäkert samtidigt som det bara gissar.

Affärskapplöpningen begränsar valmöjligheterna

Efter den publika lanseringen av ChatGPT samlade Google stora delar av sitt AI-arbete under DeepMind när konkurrensen med OpenAI, Microsoft och andra intensifierades.

Det konkurrenstrycket förändrar också etikdebatten. Företagen investerar enorma summor i chip, datacenter och kompetens. De behöver användare, produkter och intäkter för att motivera dessa kostnader.

Resultatet är en kapplöpning om att integrera AI i verktyg som människor redan använder. När en skrivassistent dyker upp i ett dokument, en sammanfattningsknapp i e-post eller ett AI-svar högst upp bland sökresultaten känns tekniken inte längre som ett val.

Det är här offentligt ansvarsutkrävande blir praktiskt. Regleringsmyndigheter kan kräva dokumentation. Domstolar kan avgöra ansvar. Revisorer kan granska system. Konkurrensmyndigheter kan undersöka om ett fåtal företag får alltför stor kontroll över infrastruktur, data och distribution.

Inget av dessa verktyg är perfekt. Men utan dem återstår bara att allmänheten ska lita på att företagen själva övervakar de system som de samtidigt försöker sälja.

AI-agenter breddar konsekvenserna

Nästa stora steg är AI som inte bara svarar – utan agerar.

Forskare vid DeepMind har studerat assistenter som kan genomföra uppgifter i flera steg, exempelvis hjälpa till att boka resor eller stödja affärsverksamhet. Gabriels forskargrupp har föreslagit att alignment bör ses som en relation mellan AI-systemet, användaren, utvecklaren och samhället.

Det är viktigt eftersom dessa intressen kan kollidera. En användare kanske vill ha snabbhet, medan samhället behöver säkerhet. En utvecklare kanske vill gynna sina egna produkter, medan kunden behöver neutral rådgivning. Ett företag kanske vill automatisera, medan arbetstagare riskerar ökad övervakning eller att ersättas.

William Isaac, ansvarig för ansvarsfrågor vid DeepMind, sade till The Guardian att agentbaserade system kräver uppmärksamhet inte bara på ett enskilt svar, utan på hela förloppet i en interaktion.

En AI-baserad reseassistent kan till exempel välja flyg, hotell och försäkringar. Varje steg kan vara försvarbart i sig. Tillsammans kan processen ändå gynna vissa plattformar, exponera privat information eller fatta beslut som användaren knappt märker.

Allmänheten behöver inflytande

Gabriels senare arbete fokuserar på AGI möjliga effekter på arbetsmarknaden, politiken, vetenskapen, ojämlikheten och personliga relationer. Han har jämfört den möjliga omfattningen av förändringarna med den industriella revolutionen, samtidigt som han konstaterar att stora samhällsomställningar kan skada människor innan fördelarna sprids.

Den jämförelsen bör göra beslutsfattare försiktiga. Industrialiseringen höjde så småningom levnadsstandarden, men ledde också till exploatering, undanträngning och politiska omvälvningar. Det finns ingen garanti för att AI vinster kommer att fördelas rättvist om inte institutioner byggs för att säkerställa det.

Måttet på framgång bör inte enbart vara modellernas storlek, hastighet eller marknadsvärdering. Ett mer användbart test är om människor kan ifrågasätta beslut, förstå när AI används och tacka nej till system som påverkar deras liv på ett orättvist sätt.

Gabriel har beskrivit sig själv som ”en övertygad humanist”. Den formuleringen ger debatten en tydlig utgångspunkt. AI kan bli allt mer kapabel, men måttstocken för att bedöma den bör förbli mänsklig:

Vem gynnas, vem utsätts för risk och vem får komma till tals innan systemet blir omöjligt att undvika?

Källor: The Guardian; Europeiska kommissionen; NIST; Vita huset.