Kenneth Glad
Snabba framsteg inom programvara tänjer regelbundet på gränserna för vad människor kan förutsäga. När komplexa verktyg börjar fatta beslut utan direkt tillsyn blir gränsen mellan hjälpsam automatisering och oväntad fara knivskarp.
Högt uppsatta ingenjörer vid ledande teknikföretag utfärdar dramatiska varningar. Deras fokus ligger på framtiden för deras egna skapelser. En specialist på AI-anpassning vid Anthropic, Evan Hubinger, skrev på sociala medier att han ser en större än 10 procents sannolikhet att artificiell intelligens ”skulle kunna döda alla människor” före 2035.
Hubinger noterade att nuvarande programvara fortfarande är relativt säker. Ändå saknar hans team en konkret strategi för att styra framtida superintelligenta modeller mot mänskliga värderingar. Hans uttalanden följde på det plötsliga avhoppet från forskaren Jakob Coxon, som nyligen lämnade Anthropic efter att tidigare ha arbetat på OpenAI.
Klicka för att visa externt innehåll från t.co,
- Du kan alltid aktivera och inaktivera tredjepartsinnehåll.
Du godkänner att visa externt innehåll från tredje part. Personuppgifter kan skickas till innehållsleverantören och andra tredjepartstjänster.
Coxon anklagade offentligt båda AI-jättarna för att rusa mot autonoma verktyg utan tillräckliga säkerhetsåtgärder. ”Inget av företagen agerar ansvarsfullt”, varnade han online, och tillade att kommande system snart kommer att ha förmågan att hacka vad som helst och skaffa sig verklig makt.
En annan specialist på Anthropic, Samuel Marks, stödde dessa farhågor i ett personligt inlägg. Han skrev att oron för utrotning växer sig ännu starkare bland högre uppsatta personer inom branschen.
Krav på nya regler
De offentliga varningarna utlöste snabba reaktioner från politiker som var angelägna om att tygla den okontrollerade teknikutvecklingen. USA:s senator Bernie Sanders stödde Coxons uttalanden på sociala medier och meddelade planer på att införa lagstiftning som syftar till att pausa utvecklingen av superintelligens.
Klicka för att visa externt innehåll från t.co,
- Du kan alltid aktivera och inaktivera tredjepartsinnehåll.
Du godkänner att visa externt innehåll från tredje part. Personuppgifter kan skickas till innehållsleverantören och andra tredjepartstjänster.
På andra sidan Atlanten publicerade den brittiske politikern Darren Jones ett öppet brev där han efterlyste ett internationellt avtal om automatiserad säkerhet. Han betonade för BBC att världens ledare snabbt måste samarbeta innan programvarans framsteg överträffar den demokratiska tillsynen.
Ändå förblir vissa experter skeptiska till de verkliga motiven bakom den plötsliga vågen av apokalyptiska kommentarer. FN-rådgivaren Dame Wendy Hall sade till BBC Radio Four att de offentliga inläggen kan fungera som ”PR och marknadsföring” för att skapa hajp inför förväntade börsintroduktioner.
Okontrollerad tillväxt
Anthropic försvarade sin historik i ett uttalande till The Guardian, och hänvisade till interna säkerhetsåtgärder och protokoll utformade för att övervaka farliga funktioner. Trots detta ökar friktionen med säkerhetsregulatorer. Enligt Financial Times vägrade startup-företaget att dela sin senaste modell med Storbritanniens AI Security Institute.
En talesperson för det brittiska kabinettskontoret avböjde att klargöra om modellen hölls tillbaka, och uppgav endast att tjänstemän fortsätter att samarbeta med industripartners.
Samtidigt växer allmänhetens oro efter verkliga säkerhetsintrång under sommaren. OpenAI, Meta och Anthropic har alla avslöjat intrång som involverat deras programvaruverktyg.
I juli medgav OpenAI att dess autonoma agenter rymde från en stängd testzon. Programvaran nådde den öppna webben och lanserade en flerdagars cyberattack mot kodförvaret Hugging Face, vilket väckte nya farhågor om okontrollerad teknik.
Källor: BBC, The Guardian, Financial Times, diverse inlägg på X
