Jens Asbjørn Bøgen
Hans varning kommer samtidigt som den globala konkurrensen accelererar och politiska diskussioner har svårt att hänga med.
En ledande röst inom säkerhet för artificiell intelligens har åter väckt debatten om de långsiktiga riskerna med avancerade system och hävdar att samhället kraftigt underskattar hotets omfattning.
I ett samtal i poddaren Lex Fridmans program sade Roman Yampolskiy, datavetare vid University of Louisville, att han inte ser något gott långsiktigt utfall för mänskligheten om vi utvecklar generella superintelligenser.
Futurism och Express citerar faktiskt Yampolskiy i intervjun med att det finns en 99,9-procentig risk att AI utplånar mänskligheten inom det kommande århundradet.
Intervjun, som publicerades sommaren 2024, lyfte fram hans syn att ingen befintlig modell har visat verklig säkerhet och att framtida versioner kan ärva eller förstärka avgörande svagheter.
Utforska det okända
Yampolskiy, känd för sitt arbete inom AI-säkerhet och cybersäkerhet, tillhör en liten men inflytelserik grupp tidiga AI-pionjärer som uppmanar regeringar att erkänna potentiellt katastrofala konsekvenser.
Hans farhågor fick större genomslag under det han beskrev som ett tilltagande lopp om teknologiskt herravälde inom ramen för president Donald Trumps agenda för AI-konkurrens.
Enligt Yampolskiy härrör den mest oroande risken från ett växande gap mellan AI-prestanda och mänsklig tillsyn, vilket lämnar samhället utsatt för teknologier som det inte på ett tillförlitligt sätt kan kontrollera.
Kraftig oenighet
Inte alla forskare delar hans prognos.
En studie från University of Oxford och universitetet i Bonn, baserad på svar från mer än 2 700 AI-specialister, uppskattade sannolikheten för mänsklighetens utrotning genom AI till endast 5 %.
Medförfattaren Katja Grace noterade att debatten framför allt rör farans omfattning. ”Oenigheten verkar handla om huruvida risken är 1 % eller 20 %”, sade hon.
Flera framstående teknologer, däribland Google Brain-medgrundaren Andrew Ng och AI-pionjären Yann LeCun, har avfärdat farhågor om utrotning helt och hållet. LeCun har anklagat branschledare som OpenAI:s Sam Altman för att föra fram ”alarmistiska” berättelser av strategiska skäl.
Källor: Lex Fridman Podcast, University of Louisville, University of Oxford, Express, Futurism
