Lauge Risom Koch 
Brittiska tjänstemän uppmanade globala ledare att stärka försvaret mot risker med artificiell intelligens, samtidigt som de navigerar ett internationellt regulatoriskt motstånd från amerikanskt ledarskap.
Storbritanniens minister för artificiell intelligens varnade för att nationer måste stärka sitt försvar mot framväxande tekniska risker. Enligt Fortune levererade Kanishka Narayan detta budskap efter att forskare antytt att mänskligheten kan utplånas inom ett decennium. En tidigare anställd på Anthropic väckte diskussionen genom att varna för att teknikutvecklare uppriktigt tror att artificiell intelligens kan döda mänskligheten.
Andra framstående teknikprofiler instämde snabbt i dessa allvarliga existentiella farhågor kring avancerad laboratorieforskning. En aktiv forskare på Anthropic höll offentligt med om den initiala varningen och uppskattade den katastrofala risken till mer än 10%. Microsofts grundare Bill Gates noterade också att avancerade system i fel händer kan orsaka en miljard dödsfall.
Narayan betonade att regeringar måste ta dessa varningar på allvar när de kommer direkt från laboratorieforskare. Den brittiske ministern konstaterade att nuvarande testprotokoll fortfarande är otillräckliga för att hantera de snabbt växande hoten. Han uppmanade globala ledare att bygga starkare försvarsstrukturer istället för att enbart förlita sig på frivilliga säkerhetsutvärderingar.
Global diplomati och amerikanskt motstånd
Storbritanniens premiärminister Andy Burnham sa nyligen till FN att gränsöverskridande laboratorier fungerar som en ”riskmultiplikator”. Han föreslog att Storbritannien kan fungera som en ärlig mäklare mellan konkurrerande nationella intressen gällande teknikreglering. Narayan tillade att hans regering avser att använda sitt G20-ordförandeskap nästa år till att etablera nya globala principer.
Dessa regulatoriska ambitioner möter betydande motstånd från amerikanskt ledarskap som prioriterar snabba tekniska framsteg framför strikt tillsyn. USA:s president Donald Trump avfärdade talet om katastrofala risker som en bluff utformad för att bromsa den inhemska utvecklingen. Presidenten varnade för att en kontroll av den amerikanska forskningens takt skulle ge Kina en betydande strategisk fördel.
Trump noterade att USA för närvarande leder över Kina och avser att behålla den positionen utan att använda regulatoriska bromsar. Följaktligen ska Vita huset ha varnat G20-medlemmar för att införa globala regleringar. Denna exekutiva hållning står i direkt kontrast till växande krav från båda amerikanska politiska partierna på ny lagstiftning riktad mot gränsöverskridande laboratorier.
Säkerhetshot och ekonomisk potential
Samtidigt som han erkänner existentiella varningar förblir Narayan i första hand fokuserad på omedelbara praktiska hot mot moderna organisationer. Kabinettsministern lyfte fram en sekulär ökning av cybersäkerhetshot och den farliga spridningen av biokemiska verktyg. Han uttryckte också djup oro över fall där autonoma modeller utför handlingar som går utanför deras ursprungliga mänskliga instruktioner.
Narayan anser att scenarier om mänsklighetens undergång kräver betydande logiska hopp, även om han fortfarande kräver rigorösa säkerhetsprotokoll. Han noterade att den brittiska regeringen har tillbringat tre år med att genomföra världens bästa tester för att förstå dessa risker. Ministern tror att hans nation är unikt positionerad för att minska farorna samtidigt som man fortsätter att driva teknisk innovation.
Trots de allvarliga säkerhetsvarningarna betonade regeringstjänstemannen den enorma positiva potentialen hos artificiell intelligens. Han lyfte fram möjligheter till betydande jobbskapande och massiva produktivitetsvinster i olika ekonomiska sektorer. Narayan drog slutsatsen att samhället i slutändan har förmågan att säkerställa att teknik förstärker snarare än automatiserar mänsklig arbetskraft.
