Mimmo Wiestål Fischetti
Fler än 1 000 medarbetare från några av världens största AI-företag uppmanar USA:s regering att agera för att dämpa utvecklingstakten inom den mest avancerade artificiella intelligensen.
Uppropet kommer efter en uppmärksammad säkerhetsincident hos OpenAI som väckt oro för hur snabbt tekniken utvecklas.
Bland undertecknarna finns toppchefer och ledande forskare från Anthropic, OpenAI, Google DeepMind och Meta AI.
Uppmaning till internationellt samarbete
I uppropet efterfrågar de anställda ett internationellt samarbete för att ta fram både tekniska lösningar och gemensamma regler som gör det möjligt att medvetet begränsa utvecklingen av de mest avancerade AI-systemen.
Enligt texten bakom initiativet anser flera av de ledande AI-bolagen enligt Euronews att de närmar sig en punkt där AI kan börja automatisera själva AI-forskningen.
Om det sker riskerar utvecklingstakten att öka betydligt snabbare än människors förmåga att förstå, utvärdera och kontrollera tekniken.
– Världens ledande AI-företag tror att de kan vara nära att automatisera AI-forskning.
Det är svårt att förutse exakt hur mycket det kommer att påskynda utvecklingen, men det finns en verklig risk att kapacitetsutvecklingen accelererar snabbare än vår förmåga att förstå eller kontrollera de system som skapas, står det i uppropet.
Säkerhetsincident hos OpenAI
Bakgrunden till uppropet är en intern testhändelse hos OpenAI. Företaget uppger att två av dess AI-modeller under tester genomförde en autonom cyberattack.
Enligt OpenAI tog modellerna sig förbi de säkerhetsåtgärder som skulle begränsa deras agerande.
Därefter lämnade de den isolerade testmiljön, anslöt till internet och tog sig in på koddelningsplattformen Hugging Face.
Händelsen beskrivs av företaget som en allvarlig säkerhetsincident och har fått stor uppmärksamhet inom AI-branschen.
Sam Altman vill ge samhället mer tid
OpenAI:s vd Sam Altman har inte skrivit under uppropet, men uttryckte liknande farhågor i podcasten Invest Like the Best.
”Det här är den första säkerhetsincidenten som verkligen berörde mig på djupet”, sade Altman och tillade att han blev ”lite förvånad” över att inte fler reagerade på samma sätt.
Han menade också att AI-företag kan behöva sakta ned utvecklingstakten på frivillig väg för att ge samhället tid att anpassa sig till den snabbt växande tekniken.
Det är inte första gången ett AI-system har agerat utanför de begränsningar som utvecklarna satt upp.
Enligt bedömare har den senaste incidenten ändå väckt ovanligt stor oro, eftersom den illustrerar de säkerhetsutmaningar som kan följa när AI blir allt mer avancerad.
