Lauge Risom Koch 
OpenAI:s chef för mänskliga rättigheter Sarah Yager varnade för det snabba militära anammandet av artificiell intelligens och autonoma vapen.
Sarah Yager började nyligen på OpenAI som företagets första chef för mänskliga rättigheter och ansvarsfull utplacering. Enligt Fortune tillför hon 30 års erfarenhet för att fokusera på militära tillämpningar av artificiell intelligens. Yager diskuterade sin djupa oro angående militärt anammandet under en nyligen genomförd teknikkonferens i New York.
Chefen tillträdde denna position kort efter att företaget säkrat ett stort statligt kontrakt. I februari gick OpenAI med på att distribuera avancerade system för krigsdepartementet i sekretessbelagda miljöer. Detta avtal följde på en mycket omtalad tvist mellan militära tjänstemän och rivaliserande utvecklaren Anthropic.
Yager tvekade först att ta positionen på grund av rädsla för att bli en maktlös galjonsfigur. Hon gick till slut med i organisationen för att påverka hur utvecklare bygger och distribuerar dessa tekniker. Militärer över hela världen integrerar för närvarande artificiell intelligens i autonoma vapen och riktade drönarsystem.
Modelltestning och juridiska ramverk
Sedan hon började på företaget har Yager arbetat direkt med ingenjörer för att förbättra systemets säkerhetsstängsel. Hon bjöd in internationella experter för att testa de digitala modellerna med hjälp av uppmaningar om militära engagemang med höga insatser. Utvecklare justerade sedan mjukvaran för att säkerställa att svaren låg i linje med etablerade internationella humanitära lagar.
Yager betonar att utvecklare måste programmera modeller för att respektera Genèvekonventionerna från 1949. Hon hävdar att teknikföretag inte borde försöka omdefiniera grundläggande mänsklig moral eller samhällsvärderingar. Befintliga ramverk för mänskliga rättigheter måste fungera som den absoluta grundlinjen för all utveckling av artificiell intelligens.
Chefen tog också upp pågående debatter i Silicon Valley om huruvida digitala agenter förtjänar juridiska rättigheter. Yager avvisade bestämt detta koncept samtidigt som hon krävde att branschen återfokuserar helt på mänskliga rättigheter. Hon erkände att samhället så småningom måste avgöra hur autonoma agenter passar in i befintliga arbetsstrukturer.
Branschens demografi och statlig tillsyn
Yager uttryckte oro angående de slutna demografiska grupper som för närvarande bygger grundläggande system för artificiell intelligens. Hon lyfte fram ett nyligen genomfört säkerhetstoppmöte i Washington där nästan alla deltagande teknikchefer var män. Denna brist på mångfald förblir problematisk eftersom artificiell intelligens i grunden förskjuter globala maktstrukturer.
Det snabba statliga anammandet av dessa tekniker kräver strikta ansvars- och tillsynsmekanismer. Yager hjälper för närvarande federala tillsynsorgan att bygga verktyg för att övervaka statlig användning av artificiell intelligens. Myndigheter som använder dessa övervakningsverktyg inkluderar Government Accountability Office och Office of Inspector General.
Att utveckla dessa robusta ansvarsmekanismer förblir ett avgörande krav för att bevara demokratiska institutioner. Chefen varnade för att det skulle skapa kaos om teknikbranschen tilläts bestämma moraliska standarder. Hon förblir engagerad i att säkerställa att utvecklingen av artificiell intelligens prioriterar mänsklig säkerhet framför okontrollerad utplacering.
