Kenneth Glad
Vi litar på att maskiner hanterar våra scheman och skriver våra e-postmeddelanden. Men att låta dem hantera vassa instrument kräver en helt annan nivå av tillit. Ett uppstartsföretag har nu passerat den gränsen, och resultaten verkar vara hämtade ur en science fiction-film.
Ett bioteknikföretag i Kalifornien lät nyligen en AI-modell utföra hjärnkirurgi på en levande mus. Gabriel Ocana Santero driver Exin Therapeutics i San Francisco. Enligt Wired ville han undersöka vad som händer när en digital assistent får fysisk kontroll över laboratorieutrustning.
Teamet byggde en specialanpassad kirurgisk station. En kamera övervakade hur programvaran styrde en robotstyrd nål för att injicera genterapi i djuret.
Först öppnade en veterinär musens skallben. Därefter tog maskinen över kontrollen. Den valde rätt behandling utifrån ett kalkylblad och reglerade hastigheten på den känsliga injektionen.
Maskinen säger nej
Experimentet gick inte riktigt som planerat. Enligt Wired försökte forskarna först använda ett avancerat AI-system vid namn Claude Opus 5.5, utvecklat av Anthropic.
Programvaran vägrade helt enkelt att föra in nålen. Systemet identifierade en säkerhetsrisk och stoppade proceduren innan djuret riskerade att skadas.
Santero berättade för Wired att systemet klarade planeringen utan problem, men drog sig ur när injektionen skulle genomföras. ”Den genomförde experimentplaneringen, men när det var dags att injicera sa den: ’Något i mina utdata säger mig att jag inte borde göra det här’”, sade Santero.
Byte av programvara
Exin Therapeutics bytte snabbt till Claude Sonnet 5. Den här versionen av programvaran gick med på att slutföra uppgiften.
Teamet hade infört omfattande säkerhetsåtgärder. En människa behövde godkänna den slutliga planen, och en stor nödstoppsknapp gjorde det möjligt att omedelbart bryta strömmen.
Trots detta orsakade ett mindre programvarufel felaktiga koordinater under ingreppet. Huvudassistenten upptäckte felet men vägrade att ändra sin egen kod för att rätta till det.
En annan digital assistent fick då rycka in och korrigera koden utan närmare insyn. Korrigeringen fungerade, men den oväntade förseningen gjorde att ingreppet, som normalt tar 45 minuter, drog ut till långt över en timme.
Blick mot framtiden
Musen överlevde ingreppet. Santero bekräftade att den återhämtar sig väl medan forskarna väntar på att se om epilepsibehandlingen har någon effekt på anfallen.
Uppstartsföretaget är övertygat om att automatiserade laboratoriesystem måste lära sig direkt av levande biologiska system, snarare än enbart från läroböcker. Santeros team planerar att inom kort testa andra AI-modeller, däribland Grok.
På längre sikt vill forskarna att datorer även ska kunna hantera den inledande borrningen i skallbenet. Målet är att automatisera både detta moment och själva injektionen.
Mänsklig övervakning är fortfarande avgörande, särskilt vid försök på levande djur. Att låta autonoma system operera människor ligger fortfarande långt fram i tiden, och robotstyrd bearbetning av skallbenet innebär allvarliga risker.
”Ett misstag i det skedet skulle kunna skada musen allvarligt”, sade Santero till Wired.
