”[AI] kan döda oss alla i slutet av årtiondet”, varning eller marknadsföring?

Apokalyptisk ångest och domedagsvarningar dyker åter upp inom tekniksektorn. Enligt Fortune fungerar dessa dramatiska berättelser effektivt som smarta marknadsföringsknep för teknikföretag. För över tre år sedan krävde branschledare ett omedelbart moratorium för avancerade system på grund av djupgående samhällsrisker.

Förra månaden avgick Anthropic-forskaren Jacob Coxon samtidigt som han utfärdade allvarliga varningar om den okontrollerade jakten på superintelligens. I ett uttalande till allmänheten sa Coxon: ”Människorna som bygger AI tror uppriktigt att den kan döda oss alla i slutet av årtiondet.” Trots dessa genuina rädslor belyser inramningen av tekniken som ett existentiellt hot dess enorma makt för potentiella investerare.

Om artificiell intelligens besitter förmågan att utplåna civilisationen antar konsumenterna att den enkelt kan hantera vardagliga kontorsuppgifter. Denna upplevda makt rättfärdigar de massiva finansiella värderingar som utvecklingsföretag för närvarande söker från globala marknader. Att bygga historiens mest värdefulla företag kräver i grunden att man säljer den mest kraftfulla tekniken som någonsin skapats.

Den finansiella nödvändigheten av att normalisera artificiell intelligens

Att utveckla dessa avancerade modeller kräver ofattbara finansiella investeringar och enorma beräkningsresurser. Eftersom den underliggande affärsmodellen förblir spekulativ bränner teknikföretag för närvarande pengar i en oöverträffad takt. Att få tillbaka dessa massiva investeringar kräver att mänskligheten integrerar automatiserade verktyg i varje aspekt av det dagliga livet.

För att uppnå en utbredd användning spenderar företag miljontals kronor på tv-reklam utformad för att normalisera syntetiska interaktioner. Dessa reklamfilmer uppmuntrar användare att låta automatiserade system organisera bokklubbar, skriva brev och utforma minnestal. Marknadsförare måste framgångsrikt rama in en i grunden artificiell produkt som en autentisk social följeslagare för att övervinna allmänhetens tveksamhet.

Kampanjer presenterar ofta tekniska framsteg som en ostoppbar naturkraft. En anmärkningsvärd tv-reklam placerade uttryckligen artificiell intelligens bredvid historiska genombrott som eld och rymdresor. Teknikchefer utnyttjar denna berättelse om oundviklighet för att övertyga konsumenter om att det är helt meningslöst att motsätta sig teknisk adoption.

Verkliga skador döljs av filmisk utrotningrädsla

Dramatiska varningar om skenande superdatorer distraherar allmänhetens uppmärksamhet från mer långsamma, omedelbara skador. Den massiva infrastruktur som krävs för att träna dessa modeller orsakar allvarlig miljöförstöring genom en enorm el- och vattenförbrukning. Dessutom möter utbildningssektorn en kognitiv förödelse när studenter lägger ut kritiska tankevanor på automatiserade mjukvaruagenter.

Löftet om att göra mer med automatiserad assistans lämnar ironiskt nog människor kapabla att göra mindre. Att förlita sig starkt på syntetiska produkter för grundläggande uttryck orsakar en inneboende avkompetensiering över professionella och personliga domäner. Att tillåta mjukvara att tänka och känna å våra vägnar riskerar att överge grundläggande delar av den mänskliga naturen.

Trots interna vädjanden om skyddsräcken fortsätter den internationella konkurrensen att påskynda utvecklingen utan adekvat reglering. Nationella säkerhetsoro kring utländska tekniska framsteg åsidosätter konsekvent inhemska krav på försiktighet. I slutändan fortsätter den cykliska diskursen av rädsla och hajp att generera enorm rikedom för övertygande företagsberättare.