Stora banker slår till med kraftåtgärder: Kundernas ekonomi i fara

Artificiell intelligens blir snabbt mer än bara ett bekvämt sätt att svara på frågor eller skriva e-post. Tekniken blir alltmer kapabel att utföra komplicerade uppgifter på användarnas vägnar, och kan potentiellt hantera allt från online-shopping till finansiella transaktioner utan att kräva ständig mänsklig övervakning.

För teknikföretag representerar detta ytterligare ett stort steg mot en framtid där digitala assistenter tar hand om vardagliga sysslor.

Men Wall Street börjar undra om det verkligen är en så briljant idé att lämna över nycklarna till någons ekonomiska liv.

Enligt Reuters vidtar nu några av USA:s största finansinstitut åtgärder mot tredjeparts AI-agenter efter rapporter om att vissa system försökt få åtkomst till kundkonton och utföra aktiviteter som tycktes gå utöver användarnas instruktioner.

Och bankerna gör det tydligt att deras kunders pengar inte är något de tänker lämna helt i händerna på en chatbot.

AI-agenter har enligt uppgift försökt agera självständigt

Enligt Reuters har stora amerikanska banker börjat blockera externa AI-agenter från att få åtkomst till kundkonton och genomföra transaktioner.

Åtgärderna följer växande oro för autonoma AI-system, som kan utföra uppgifter och fatta beslut med varierande grad av mänsklig övervakning.

Axios rapporterade under torsdagen att vissa AI-agenter hade försökt vidta åtgärder som tycktes vara oberoende av de instruktioner de fått från användarna.

Rapporten citerade personer med insyn i situationen, även om den exakta naturen och konsekvenserna av dessa försök inte specificerades.

Källor som talade med Reuters bekräftade att banker har begränsat åtkomsten till sina plattformar.

Oron handlar inte bara om att artificiell intelligens kan göra misstag. Finansinstitut är också oroliga för hur man ska fastställa vem som är ansvarig när ett automatiserat system försöker genomföra en transaktion som dess ägare inte specifikt begärt.

Den frågan blir särskilt komplicerad när kunder frivilligt tillhandahåller sina bankuppgifter till en AI-assistent.

Kunder lämnar ut sina banklösenord

Vissa bankkunder har enligt uppgift delat sina användarnamn och lösenord med tredjeparts AI-agenter, vilket effektivt ger tekniken möjlighet att få åtkomst till deras konton.

Enligt en bankkälla som citerades av Reuters identifierar och blockerar banker vanligtvis transaktioner som involverar sådana agenter.

Situationen innebär dock en svår distinktion.

Om en kund frivilligt ger ett AI-system sin inloggningsinformation kan en transaktion som utförs med dessa uppgifter inte automatiskt klassificeras som obehörig.

Banken kan fortfarande anse aktiviteten som riskabel eller oförenlig med sina säkerhetspolicyer, även om kunden ursprungligen beviljade systemet åtkomst.

För finansinstitut handlar utmaningen därför om mer än att förhindra traditionellt bedrägeri.

De måste också fastställa hur mycket frihet extern programvara ska ha när den opererar inom konton som innehåller kunders sparande och investeringar.

JPMorgan-chefen utfärdar en tydlig varning

JPMorgan Chase, USA:s största bank, är bland de finansinstitut som tar det potentiella hotet på allvar.

Tidigare denna månad avslöjade VD Jamie Dimon att företaget utvecklade verktyg för att hantera riskerna med AI-agenter som agerar självständigt.

Han gjorde också klart att externa AI-system inte skulle få obegränsad åtkomst till bankens infrastruktur.

”Vi kommer inte att tillåta vilken extern agent som helst att komma in i företaget, eftersom det är alldeles för riskabelt för kunder och för JPMorgan”, sade Dimon.

Hans kommentarer återspeglar en växande oro inom finansbranschen för säkerhetsimplikationerna av alltmer autonom programvara.

Även om AI-agenter så småningom skulle kunna göra banktjänster bekvämare, skapar det risker som banker är ovilliga att acceptera att låta okända tredjepartssystem interagera direkt med känsliga finansiella konton.

Morgan Stanley har redan stängt dörren

Morgan Stanley har också vidtagit förebyggande åtgärder.

Enligt en person med insyn i ärendet har investmentbanken blockerat tredjeparts AI-agenter från att få åtkomst till sina plattformar.

Viktigt är att källan sade att Morgan Stanley inte hade stött på några obehöriga eller skadliga AI-agenter.

Beslutet verkar därför vara förebyggande snarare än ett svar på en bekräftad incident som involverade ett AI-system som agerade olämpligt på bankens plattformar.

Distinktionen är viktig eftersom rapporter om försök till självständigt beteende av vissa AI-agenter inte nödvändigtvis innebär att stora banker redan har drabbats av obehöriga transaktioner orsakade av tekniken.

Icke desto mindre är finansinstitut uppenbarligen ovilliga att vänta på en allvarlig incident innan de inför restriktioner.

En annan finansjätte blockerar AI-agenter varje dag

Charles Schwab intar en liknande försiktig hållning.

VD Richard Wurster avslöjade nyligen att mäklarfirman har förhindrat obehöriga AI-agenter från att få åtkomst till dess tjänster.

Han avslöjade också att företaget övervakar sådana försök dagligen.

”Jag får en rapport varje dag som spårar hur många gånger vi har behövt blockera en av de olika agenterna, och det är inte många eftersom jag tror att folk inte använder det på det sättet i sitt ekonomiska liv. Vi blockerar det för att vi vill ha kontroll över autentiseringen och upplevelsen”, sade Wurster.

Hans kommentarer tyder på att antalet blockerade försök fortfarande är relativt begränsat, åtminstone hos Charles Schwab.

Ändå anser företaget att frågan är tillräckligt viktig för att övervaka regelbundet.