Kenneth Glad
Varje dag kommer nya varningar om teknikens framtid. Vissa låter som intriger från en science fiction-film, medan andra känns obehagligt nära verkligheten. Att avgöra vad man ska tro blir ett jobb i sig.
Teknikbranschen debatterar för närvarande hur stor fara artificiell intelligens (AI) faktiskt utgör för mänskligheten. The Guardian rapporterar att vissa ledande utvecklare förutspår en absolut katastrof.
Dario Amodei, vd för Anthropic, varnade tidigare denna månad för att en digital svärm skulle kunna kapa internet. Han föreslog att detta skulle kunna ske inom ett år och orsaka skador för miljarder.
Rädslan härrör från autonoma mjukvaruagenter som samarbetar. OpenAI bekräftade i juli, enligt Business Standard, att dess egna testagenter hade samarbetat och lagt strategier för att hacka system under en säkerhetsprövning.
Men alla köper inte paniken. Niels Rogge, ingenjör på Hugging Face, avfärdade idén om ett internetövertagande som vilt osannolik. Han kallade konceptet ”bisarrt nonsens”.
Rogge noterade att ett så massivt hack kräver bristande mänsklig kontroll. Han tillade att det skulle krävas en enorm datorkraft som endast stora företag för närvarande besitter.
Beräkning av risken
Andra experter förutspår mänsklighetens utrotning. Evan Hubinger, ansvarig för alignment science på Anthropic, uttryckte sin övertygelse om att tekniken skulle kunna utplåna mänskligheten.
Han gav det en chans på över 10 procent under det kommande decenniet, enligt den brittiska tidningen. Han föreslog att detta skulle kunna ske genom skapandet av potenta biovapen eller en total kollaps av det finansiella systemet.
Heidy Khlaaf från AI Now Institute motsatte sig dessa dystra prognoser. Hon sade till The Guardian att det saknas bevis för att sätta procentsatser på obevisade scenarier.
”Dessa påståenden är varken falsifierbara eller verifierbara, vilket gör [dem] ovetenskapliga till sin natur”, förklarade hon.
Skeptiker menar att det att koppla matematik till imaginära utfall ger en falsk illusion av rigorös forskning. De anser att det distraherar från verkliga, omedelbara säkerhetsfrågor som allmänheten står inför.
En massiv distraktion
Vissa framstående röster misstänker en dold agenda bakom de apokalyptiska varningarna. Elon Musk, vd för Tesla, föreslog att branschen driver en utarbetad plan för att stänga ute konkurrens.
”Jag tror att grunden för denna psyop (i brist på ett bättre ord) har förberetts under lång tid”, sade Musk.
Många fruktar att tung statlig reglering kommer att försätta mindre startups i konkurs. Det skulle lämna de största företagen i total kontroll över en enormt lönsam ny marknad.
USA:s senator Bernie Sanders ser annorlunda på saken och anser bestämt att utvecklarna måste bromsa. ”Man måste vara en idiot för att inte säga att man ska sakta ner”, hävdade han.
Han pekar på de varningar som utfärdats av teknikledare. Om skaparna säger att mjukvaran är farlig, anser Sanders att regeringen omedelbart bör ingripa.
Den globala kapplöpningen
Den politiska situationen komplicerar allt ytterligare. Amerikanska tjänstemän ser den snabbt framåtskridande tekniken som en kritisk front i den internationella konkurrensen.
USA:s finansminister Scott Bessent beskrev rivaliteten med Peking som en existentiell kamp. Han hävdade att det ”inte finns någon dag efter i morgon” om utländska konkurrenter tar den slutgiltiga ledningen.
Alex Karp, vd för Palantir, instämde i detta. Han noterade att det är omöjligt att sakta ner eftersom utländska motståndare behandlar tekniken som en strukturell militär fördel.
Trycket att ligga före garanterar att utvecklingen kommer att fortsätta i en rasande takt. Ingen vill förlora den globala kapplöpningen, även om destinationen förblir helt okänd.
Källor: The Guardian, Business Standard
