Asger Risom
Bill Gates säger att AI kan påskynda framsteg, men varnar för att samma verktyg också kan hjälpa illasinnade aktörer att bygga ett bioterrorvapen som utlöser nästa globala pandemi.
Bill Gates säger att AI kommer att förändra samhället mer än något annat människor har skapat, men hans optimism åtföljs av skarpa varningar om missbruk och störningar.
En varning sticker särskilt ut: han menar att en ännu större risk än en naturlig pandemi är att en icke-statlig grupp använder öppna AI-verktyg för att utforma ett bioterrorvapen.
En ny hotbild
Gates kopplar oron till en lärdom från covid-19: bristande förberedelser förvärrar lidandet. Han säger att om världen hade varit bättre förberedd hade skadorna blivit betydligt mindre.
Nu menar han att tröskeln till farlig kapacitet kan sänkas om kraftfulla verktyg för biologisk design kombineras med brett tillgänglig AI.
Experter delar oron
Oberoende forskningsmiljöer har slagit larm i samma riktning. En rapport från National Academies konstaterar att AI kan stärka biosäkerheten, men att övervakning och riskbegränsande åtgärder krävs för att minska risken för missbruk vid utveckling av skadliga biologiska agens.
Policyanalytiker vid CNAS har också beskrivit hur framsteg inom AI kan förändra riskbilden för biologisk säkerhet och driva regeringar att behandla förebyggande arbete och kontrollmekanismer som akuta prioriteringar.
Bortom bioterror
Gates pekar på en andra kortsiktig utmaning: jobbstörningar, särskilt när AI ökar produktiviteten i kunskapsarbete och börjar omforma efterfrågan inom områden som mjukvaruutveckling.
Hans slutsats handlar om styrning. Han menar att samhällen behöver göra medvetna val om hur AI utvecklas, används och övervakas, så att fördelarna kan skalas upp utan att öppna dörren för katastrofalt missbruk.
Källor: gatesnotes, National Academies, CNAS
