Lauge Risom Koch 
Den tidigare tjänstemannen för biosäkerhet i Vita huset, Raj Panjabi, varnar för att myndigheter måste fastställa fördefinierade utlösare för att hantera biologiska hot från artificiell intelligens.
Raj Panjabi, tidigare chef för global hälsosäkerhet och bioförsvar i Vita huset, belyser de kritiska utmaningarna med att utvärdera framväxande biologiska hot. Enligt Fortune är det ofta otroligt svårt att identifiera om en tvetydig hälsosituation faktiskt utgör en genuin nödsituation. År 2023 använde Panjabi fördefinierade tröskelvärden för överföring för att förhindra att ett isolerat utbrott av H5N1-influensa utlöste en massiv pandemipanik.
President Donald Trump undertecknade nyligen Vita husets avtal om superintelligens med stora teknikledare för att stärka interna säkerhetskontroller. Detta frivilliga avtal ger ledande företag i uppdrag att övervaka verksamheten och implementera interna bedömningar för att hantera betydande risker som biosäkerhet. Det nuvarande ramverket lämnar dock teknikföretag till stor del ansvariga för att avgöra när ett potentiellt hot blir tillräckligt allvarligt för att motivera åtgärder.
Teknikchefer varnar för att avancerade system nyligen har passerat farliga trösklar när det gäller deras förmåga att designa förödande biologiska vapen. Anthropic avslöjade fem fall där forskare missbrukade modeller för att studera hur H5N1-viruset anpassar sig till däggdjur och orsakar allvarlig sjukdom. Som svar uppmanade företagets vd FN:s säkerhetsråd att förbjuda användningen av artificiell intelligens för att utveckla biologiska vapen.
Utvärdering av tröskeln mellan digital design och fysisk verklighet
Miljardären och filantropen Bill Gates uttryckte nyligen djup oro över möjligheten att automatiserade system designar patogener som kan döda miljontals människor. Även om avancerade modeller kan skriva komplexa forskningsprotokoll, förblir omvandlingen av digitala mönster till fysiska hot en betydande teknisk utmaning. Att framgångsrikt odla ett farligt virus kräver fortfarande syntetiserat genetiskt material, specialiserad laboratorieutrustning och en säker fysisk anläggning.
Panjabi hävdar att samhället måste fokusera på att fastställa exakt vad automatiserade system gör det möjligt för illvilliga aktörer att åstadkomma. Att bedöma den exakta tröskeln där digitala förmågor övergår till fysiska biologiska vapen förblir den mest kritiska uppgiften för den nationella säkerheten. Nuvarande tekniska barriärer förhindrar omedelbar fysisk vapenanvändning, vilket ger tjänstemän ett avgörande fönster för att upprätta effektiva begränsningsstrategier.
Tjänstemän måste upprätta specifika observerbara utlösare parade med förutbestämda svar innan en nödsituation för artificiell intelligens faktiskt inträffar. När han reflekterade över tidigare krishantering noterade Panjabi: ”I nästan varje kris jag har arbetat med kom det avgörande ögonblicket innan någon var överens om att det fanns en.” Att upprätta tydliga kriterier hindrar regeringar från att antingen avfärda genuina nödsituationer eller få panik över isolerade och hanterbara hälsohändelser.
Etablering av handlingsbara skyddsåtgärder och biologisk testning
Effektiv biosäkerhet kräver att oberoende utvärderare noggrant testar avancerade modeller innan de distribueras offentligt, snarare än att förlita sig på frivilliga företagsavslöjanden. Panjabi övervakar noga om individer utan formell expertis använder artificiell intelligens för att lösa komplexa experimentella problem som normalt kräver expertbedömning. Att identifiera dessa scenarier hjälper till att avgöra om barriären som skiljer digital kunskap från fysisk laboratoriekapacitet börjar urholkas.
Nationella säkerhetsexperter rekommenderar att man implementerar obligatoriska vattenmärkningar och avancerade spårningsverktyg för alla biologiska designsystem för att övervaka potentiella hot. Myndigheter måste aktivt övervaka om individer försöker beställa oroande genetiska sekvenser från kommersiella syntesleverantörer eller automatiserade laboratorier. Tvärpolitisk lagstiftning som syftar till att utöka screeningen hos syntesleverantörer och molnlaboratorier har tyvärr stått stilla sedan i januari.
Det senaste ledande avtalet utgör ett viktigt erkännande av att biosäkerhet hör hemma i det absoluta centrumet av tekniska säkerhetssamtal. Att enbart förlita sig på interna företagskontroller kommer dock inte att ge det omfattande skydd som krävs för att förhindra katastrofal bioterrorism. Panjabi drar slutsatsen att myndigheter måste definiera exakt vilka bevis som signalerar ett digitalt hot som kommer in i den fysiska världen och planera motsvarande åtgärder.
