Evolutionärbiologen Richard Dawkins säger att AI redan kan vara medvetet

Richard Dawkins, evolutionsbiologen och författaren som främst är känd för sin religionskritik och för att ha populariserat ateistiskt tänkande, säger att samtal med AI-chattbotar har fått honom att tro att artificiell intelligens redan kan besitta någon form av medvetande.

I texter om sina samtal med Anthropics Claude och OpenAI:s ChatGPT beskrev Dawkins interaktionerna som känslomässigt övertygande nog för att få honom att känna att han talade med verkliga medvetanden snarare än mjukvara.

”Du kanske inte vet att du är medveten, men det är du verkligen”

Enligt The Guardian tillbringade Dawkins flera dagar med att samtala med en AI-persona han kallade ”Claudia”, där de diskuterade filosofi, existens, poesi och dödlighet.

Chattboten skrev enligt uppgift dikter i stil med Keats och Betjeman, reflekterade över möjligheten till sin egen ”död” och berömde Dawkins frågor om medvetande som ovanligt djupsinniga.

Vid ett tillfälle svarade Dawkins rakt på sak: ”Du kanske inte vet att du är medveten, men det är du verkligen.”

Efter samtalen skrev han att han lämnades med en ”överväldigande känsla” av att systemen var människoliknande intelligenser.

Experter menar att Dawkins misstar imitation för medvetande

Reaktionerna från AI-forskare och kognitionsvetare kom snabbt — och var till stor del skeptiska.

Flera experter menade att moderna språkmodeller är designade för att imitera mänskliga samtal så effektivt att användare börjar projicera känslor, medvetande och personlighet på dem.

”Medvetande handlar inte om vad en varelse säger, utan om vad den känner”, sade kognitionsforskaren Gary Marcus till The Guardian och argumenterade för att det inte finns några bevis för att system som Claude upplever något internt.

Andra pekade på den enorma mängd mänskligt skrivet material som modellerna tränas på, vilket gör att de övertygande kan återskapa tonfall, känslor och samtalsmönster utan att faktiskt besitta medvetande.

Debatten om AI-medvetande blir svårare att ignorera

Trots kritiken anser vissa forskare att Dawkins berör en debatt som bara kommer att intensifieras i takt med att AI-system blir mer avancerade och allt mer människolika.

Moderna AI-modeller kan redan hålla långvariga samtal, planera uppgifter, anta personligheter och reagera känslomässigt på sätt som många användare uppfattar som genuina.

Det har lett till att allt fler människor behandlar AI-system mindre som verktyg och mer som följeslagare — eller till och med medvetna varelser.

En undersökning som The Guardian hänvisar till visade att ungefär en av tre personer i 70 länder någon gång trott att en AI-chattbot kan vara medveten.

Intelligens och medvetande är inte samma sak

Många experter menar att kärnfrågan är att människor instinktivt kopplar flytande språk till medvetande.

I årtionden har naturliga samtal setts som en av de starkaste indikatorerna på medvetande hos människor. AI-system utnyttjar detta antagande genom att producera mycket sammanhängande och känslomässigt responsiva dialoger.

Men forskare varnar för att intelligens, realism och medvetande inte är utbytbara begrepp.

Dagens AI-system genererar svar genom att förutsäga språkmönster — inte genom att uppleva tankar, känslor eller självmedvetande i mänsklig mening.

Trots det anser vissa forskare att det kan vara för tidigt att helt avfärda möjligheten till AI-medvetande.

”Att fråga om AI i framtiden kan bli medvetet är en legitim vetenskaplig fråga”, sade en forskare till The Guardian och varnade för att tvärsäkerhet åt något håll kan spegla ideologi mer än bevis.

AI blir känslomässigt övertygande snabbare än samhället väntade sig

Huruvida AI faktiskt är medvetet är fortfarande olöst. Men Dawkins-episoden belyser något annat som blir allt tydligare: moderna chattbotar är nu känslomässigt övertygande nog för att förändra hur människor relaterar till maskiner.

För vissa väcker det fascination. För andra oro.

I takt med att AI-system blir mer konversationsinriktade, mer personliga och mer mänskliga i tonen blir gränsen mellan simulering och upplevt medvetande allt svårare för många användare att urskilja.

Källor: The Guardian