Silicon Valleys AI-vision väcker frågor om mänsklighetens framtid

Artificiell intelligens marknadsförs ofta som en praktisk revolution. Företag lovar snabbare forskning, bättre mjukvara, förbättrad sjukvård och system som kan ta över repetitiva arbetsuppgifter.

Men bakom några av de mest högljudda påståendena döljer sig en betydligt märkligare ambition. I delar av Silicon Valley diskuteras AI inte bara som en teknik, utan som en väg till att förändra vad det innebär att vara människa.

Vi kan vara på väg mot en framtid där teknikledare, investerare och teoretiker föreställer sig världar där människor smälter samman med maskiner, överskrider biologiska begränsningar eller bidrar till att skapa en efterföljande intelligens, skriver journalisten Eduardo Porter i en debattartikel i The Guardian.

Sam Altman, vd för OpenAI, företaget bakom ChatGPT, har sagt att människor kan bli den första arten ”som designar sina egna efterföljare”. Altman har ofta talat om möjligheten att artificiell intelligens så småningom kan överträffa mänskliga förmågor och i grunden förändra civilisationen.

Elon Musk har beskrivit mänskligheten som ”en biologisk startladdare för digital superintelligens”, vilket antyder att människor i slutändan kan fungera som ett övergångsstadium i utvecklingen av mer avancerad maskinintelligens.

Drömmen är inte bara digital

Språket kan låta avlägset och overkligt, fyllt av tal om uppladdade medvetanden, superintelligens och civilisationer som sprider sig bortom jorden.

Ändå är personerna som använder det inte några perifera figurer. De driver företag, formar marknader och påverkar regeringar.

Deras visioner skiljer sig åt. Vissa fokuserar på gränssnitt mellan hjärna och dator. Andra talar om digitalt medvetande, bosättningar i rymden eller artificiella sinnen som växer bortom mänskliga begränsningar.

Det som förenar dessa idéer är antagandet att det vanliga mänskliga livet inte är slutpunkten. Kroppen blir en plattform som kan förbättras, ersättas eller lämnas bakom sig.

Därför är debatten större än bara mjukvara. Den väcker frågan om nästa tekniska utvecklingssteg ska tjäna mänskliga behov – eller om människor håller på att omdefinieras till råmaterial för en framtid som valts av en liten elit.

Kostnaderna märks redan lokalt

Eduardo Porter menar att dessa ambitioner inte är oskyldiga fantasier. De bidrar till att rättfärdiga en teknologisk kapplöpning som redan förbrukar mark, elektricitet, vatten, pengar och politisk uppmärksamhet.

Konsekvenserna syns i lokala konflikter kring datacenter. I Coachella i Kalifornien protesterade invånare mot Stronghold Power Systems föreslagna teknikcampus Coachella Valley Technology Campus på omkring 180 hektar, som skulle omfatta upp till sex stora datacenter.

Kommunala tjänstemän övervägde ett stopp för vidare exploatering efter oro kring vattenförbrukning, föroreningar, energibehov samt närheten till bostäder och skolor, enligt Business Insider.

Drömmen må rikta blicken mot stjärnorna, men bördan kan först visa sig som en planfråga, belastning på elnätet eller konflikt om vattenanvändning.

Porters oro är att framtidslöften kan få dagens avvägningar att framstå som obetydliga. Om målet är att skapa postmänsklig intelligens kan invändningar från arbetstagare, lokalsamhällen eller offentlig tillsyn behandlas som hinder.

Ett trossystem tar form

Porter kopplar AI-elitens ambitioner till transhumanism, longtermism, effektiv altruism och accelerationism. Dessa idéströmningar är inte identiska, men de kan alla rikta uppmärksamheten mot enorma framtida möjligheter snarare än dagens skyldigheter.

Ekonomen Daron Acemoglu varnade i en intervju med Business Insider:

”Den lilla grupp människor som släpper lös denna teknik över världen vägleds av en ideologi om kontroll (över mänskligheten) och av en övertygelse om att maskiner genomgående är bättre än människor.”

Frågan är inte bara om AI blir mer kapabel. Den handlar också om huruvida de som bygger tekniken ser vanliga människor som de avsedda mottagarna av dess fördelar – eller som tillfälliga figurer i en större berättelse där maskiner står i centrum.

I sin artikel beskriver Porter också delar av Silicon Valley som ett sökande efter mening genom teknik. I stället för traditionell frälsning blir löftet skala, intelligens, expansion och en flykt från kroppens begränsningar.

Till och med insiders låter osäkra

Porter hänvisar också till en varning från Anthropic-medgrundaren Dario Amodei, som sagt att ”vi förstår inte hur våra egna AI-skapelser fungerar”, och kallade denna brist på förståelse ”i princip utan motstycke i teknikens historia”.

Det erkännandet är betydelsefullt. AI-system tar sig in i kontor, skolor, myndigheter, säkerhetsarbete och militär planering samtidigt som även experter medger att det finns allvarliga kunskapsluckor.

Frågan är inte om innovationen bör stoppas. Frågan är om system med stora samhälleliga konsekvenser främst ska formas av företagsledare, investerare och ingenjörer med begränsad demokratisk kontroll.

Allmänheten har fortfarande rätt att säga sitt

AI kan medföra verkliga fördelar inom sjukvård, tillgänglighet, logistik och vetenskaplig forskning. Dessa vinster bör inte avfärdas.

Men möjliga fördelar avgör inte maktfrågan.

• Vem betalar för infrastrukturen?
• Vem bär risken?
• Vem får säga sitt när ett projekt påverkar arbetstillfällen, skolor, energipriser eller lokala resurser?

Faran är inte bara att Silicon Valleys djärvaste drömmar kan misslyckas. Det är att själva jakten kan omforma samhället utifrån prioriteringarna hos dem som är tillräckligt förmögna för att driva den.

En liten grupp teknikledare bygger inte bara maskiner. Den försöker definiera vad mänskligheten ska bli. Det beslutet är alltför betydelsefullt för att lämnas åt dem som har störst möjlighet att tjäna på det.

Källor: Eduardo Porters debattartikel i The Guardian, Business Insider, darioamodei.com