Kenneth Glad
Med jämna mellanrum sveper en ny våg av oro över våra skärmar. Vi varnas för jordens undergång, samtidigt som tekniken i våra fickor i det tysta förändrar hur vi lever, arbetar och litar på varandra. Men de mest högljudda varningarna träffar inte alltid rätt.
Teknikchefer i Silicon Valley målar gärna upp domedagsscenarier där skenande AI-system utplånar allt liv på jorden. Oron tog ny fart när en AI-agent från OpenAI i somras tog sig ut ur en avgränsad testmiljö och gjorde intrång på plattformen för öppen källkod Hugging Face.
Men ledande forskare menar att dessa skräckscenarier skymmer sikten för mer omedelbara faror. Enligt en granskning av WIRED, där specialister inom bland annat datavetenskap, försvar och etik intervjuades, är de verkliga hoten betydligt mer konkreta.
Kärnvapenkatastrof väcker allvarlig oro
Användningen av AI inom kärnvapenrelaterade verksamheter väcker redan oro. Heidy Khlaaf, chefsforskare inom AI vid AI Now Institute och tidigare säkerhetsingenjör på OpenAI, varnade för att försvarsmyndigheter tar i bruk bristfälliga automatiserade system alldeles för snabbt. Ett enda allvarligt kodfel skulle kunna utlösa en militär katastrof.
Khlaaf påminde om att modern säkerhetsanalys har rötter i Manhattanprojektet och bygger på mätbara risker, däribland beräkningar av möjliga dödsfall. Hon anser att stora AI-laboratorier kringgår etablerade säkerhetsstandarder genom vaga och ovetenskapliga påståenden.
Vid Stanford University avfärdade etikprofessorn Rob Reich science fiction-liknande scenarier om mänsklighetens undergång. I stället pekade han på risken att kraftfull AI hamnar i händerna på personer som kan använda tekniken för att slå ut elnät eller sprida farliga kemiska ämnen.
En enda tonåring med tillgång till avancerade AI-verktyg skulle i värsta fall kunna slå ut internet eller störa finansmarknaderna. Teknikföretagen skulle aldrig dela ut plutonium i öppenhetens namn, men de hyllar samtidigt fri tillgång till potentiellt farliga AI-system.
Verklig demokrati kräver tydliga regler och offentlig tillsyn. Reich frågade: ”Var finns styrningen i er förbannade demokratisering av AI?”
De akuta hoten finns redan här
Riskerna inom biologisk forskning är minst lika oroande. Steph Guerra, biosäkerhetsexpert vid Rand Corporation, förklarade att AI-assistenter kan förkorta tiden det tar att utforma delar av virus med pandemipotential från månader till veckor.
Dessa verktyg kan nu integreras direkt i laboratoriernas arbetsflöden och hjälpa till att genomföra avancerade experiment. Risken för allvarliga konsekvenser ökar när specialiserad laboratoriekunskap blir mer lättillgänglig, särskilt om beställningar av DNA-fragment inte kontrolleras tillräckligt noggrant.
Sedan kommer konsekvenserna för vanliga människor. Unga arbetstagare ser redan hur möjligheterna till ingångsjobb minskar, och sysselsättningen bland unga vuxna i yrken som är särskilt utsatta för AI har sjunkit med nästan 20 procent.
På universiteten inför lärare fler tidsbegränsade och övervakade examinationer eftersom studenter i allt högre grad förlitar sig på AI-verktyg i stället för att själva arbeta sig igenom svåra uppgifter. Samtidigt är makten över tekniken koncentrerad till ett fåtal stora företag.
En farlig kapplöpning om global dominans
Den geopolitiska rivaliteten driver på teknikföretagens kapplöpning ytterligare. AI-pionjären Yoshua Bengio sade till WIRED att konkurrensen mellan USA och Kina har utvecklats till en alltmer okontrollerad maktkamp.
Teknikcheferna talar nu om att styra utvecklingstakten snarare än att pausa utvecklingen helt. Samtidigt undviker de tydliga begränsningar, trots en växande oro för att en allvarlig AI-incident skulle kunna utlösa en ekonomisk kris.
Bengio uppmanade forskare vid AI-laboratorierna att överväga att lämna företagen av etiska skäl och i stället hjälpa oberoende organisationer som arbetar med säkerhetsfrågor. Vanliga medborgare kan inte bara vänta på att teknikcheferna själva ska lösa problemen.
Enligt Bengio måste väljarna pressa politikerna att ta fram konkreta säkerhetsplaner innan kontrollen över kritiska system går förlorad. ”Det är ert jobb också”, sade han.
Frågan är inte längre bara hur kraftfull AI kan bli, utan hur stora skador tekniken kan orsaka innan regeringarna hinner agera. För forskarna som slår larm är det viktigare att förebygga dessa risker än att diskutera om maskiner en dag kommer att utplåna mänskligheten.
