Kenneth Glad
Smart programvara fattar nu beslut bakom stängda dörrar. Från banktransaktioner till läkemedelsforskning utför autonoma verktyg åtgärder innan någon kan dubbelkolla arbetet. Utan ordentliga skyddsräcken kan den friheten utlösa kaos.
Företag ger artificiell intelligens (AI) verklig auktoritet betydligt snabbare än de flesta inser. En ny rapport från SAS visar att 89 procent av AI-agenter i produktion redan utför uppgifter snarare än att bara erbjuda råd. Mer än hälften av dessa verktyg opererar med liten eller ingen mänsklig tillsyn.
Denna snabba förändring påverkar vad som händer när ett program gör ett misstag. Förtroendet speglar oron. Medan 76 procent av de tillfrågade arbetstagarna litar på generativ AI, sjunker den siffran till 66 procent för autonom programvara.
Marinela Profi, strategiansvarig på SAS, förklarade den växande faran för AI News. ”Med autonom AI förändras skadeomfånget”, varnade Profi. ”Ett fel är inte längre nödvändigtvis ett dåligt svar på någons skärm.”
”En agent kan utlösa ett arbetsflöde, interagera med ett annat system, fatta ett beslut eller utföra en åtgärd innan en människa ens ser det.” Hon tillade att ”autonomi förvandlar misslyckanden från något man observerar till något som systemet kan sprida”.
Okontrollerad programvara kan förvandla ett litet tekniskt fel till en företagsövergripande katastrof inom några sekunder.
Skyddsräcken ökar hastigheten
Många chefer oroar sig för att styrningsregler kommer att bromsa innovationen. Forskning tyder dock på att korrekta ramar faktiskt hjälper företag att agera snabbare och tjäna mer pengar. Organisationer med pålitliga system är 15 gånger mer benägna att rapportera stark finansiell avkastning, enligt SAS.
Profi påpekade att säkerhetskontroller fungerar som bromsar på ett fordon. ”Bromsar finns inte för att göra bilar långsamma”, sade hon. ”De hjälper till att göra hastighet säker.”
Infrastrukturbrister gör tidiga tester missvisande. Endast 17,5 procent av organisationerna har de dataverktyg som behövs för att stödja autonom AI. Forskare vid ett biofarmaceutiskt företag förlorade ungefär fyra femtedelar av sina arbetstimmar på att lokalisera och organisera data innan det analytiska arbetet ens kunde påbörjas.
För att förhindra katastrofala misslyckanden uppmanar experter ledare att låta människor övervaka backend-arbetsflöden. Automatiserade verktyg kan hantera rutinmässiga uppgifter, men människor måste förbli ansvariga för de slutliga resultaten. Som Profi uttryckte det: ”Vi kan delegera utförandet till AI. Vi bör aldrig delegera ansvar till den.”
Källor: AI News, SAS
