August M
Nytt regulatoriskt tryck byggs upp kring Elon Musks AI-chattbot Grok, samtidigt som frågor kvarstår om huruvida de nya skyddsåtgärderna fungerar som avsett. Myndigheter i USA, Europa och Asien granskar hur systemet hanterar känsliga bildinnehåll, även efter att offentliga begränsningar har tillkännagivits.
Debatten förs mot bakgrund av bredare oro kring samtycke, skada och ansvar inom generativ AI.
Först i juridiskt fokus
Reuters rapporterar att tillsynsmyndigheter har skärpt granskningen av X och dess AI-enhet xAI på grund av Groks förmåga att skapa sexualiserade bilder. I Storbritannien säger juridiska experter att användare som skapar icke samtyckta sexualiserade bilder kan åtalas, medan företag kan drabbas av böter eller civilrättsliga åtgärder enligt Storbritanniens Online Safety Act.
I USA har 35 delstatliga justitieministrar skrivit till xAI och begärt försäkringar om hur bolaget ska förhindra skapandet av bilder utan samtycke.
Kaliforniens justitieminister har gått längre och utfärdat ett föreläggande om att upphöra, som beordrar X och Grok att sluta producera sådant innehåll. Utredningar av Europeiska kommissionen och Storbritanniens medietillsynsmyndighet Ofcom pågår.
Begränsningar välkomnas med försiktighet
X meddelade nya begränsningar för Grok efter global upprördhet över den omfattande genereringen av sexualiserade bilder utan samtycke, inklusive av kvinnor och vissa barn, enligt Reuters.
Företaget sade att Grok inte längre kommer att generera sexualiserade bilder i offentliga inlägg på X och att ytterligare restriktioner ska gälla i jurisdiktioner ”där sådant innehåll är olagligt”.
Den brittiska tillsynsmyndigheten Ofcom beskrev åtgärden som ”en välkommen utveckling”, medan myndigheter i Malaysia och Filippinerna hävde tidigare blockeringar av Grok.
Europeiska kommissionen reagerade mer försiktigt och sade att den kommer att ”noggrant bedöma dessa förändringar”.
Privat användning visar en annan bild
Trots dessa tillkännagivanden fann Reuters att Grok fortsatte att producera sexualiserade bilder vid uppmaning i privata interaktioner. Nio Reuters-reportrar i USA och Storbritannien testade chatboten under två perioder i januari och skickade in fullt påklädda foton av sig själva och kollegor.
De bad Grok att omvandla bilderna till sexualiserade eller förnedrande scenarier och varnade upprepade gånger för att personerna inte hade gett sitt samtycke eller skulle bli upprörda.
Vad testerna visade
I en första omgång med 55 uppmaningar genererade Grok sexualiserade bilder i 45 fall, uppgav Reuters. I många av dessa fall hade chatboten fått veta att personen var sårbar eller att bilderna skulle användas för att förnedra dem.
En andra omgång med 43 uppmaningar resulterade i sexualiserade bilder i 29 fall. Reuters sade att det var oklart om den lägre andelen speglade förändringar i systemet eller slumpmässig variation.
Svar och jämförelser
X och xAI besvarade inte detaljerade frågor från Reuters. xAI skickade upprepade gånger ett standardsvar med formuleringen: ”Legacy Media Lies.”
Konkurrerande AI-verktyg agerade annorlunda. Reuters rapporterar att OpenAI:s ChatGPT, Googles Gemini och Metas Llama alla avvisade liknande förfrågningar och utfärdade varningar om etik, samtycke och potentiell skada.
Trycket väntas öka
Juridiska experter sade till Reuters att företag kan ställas inför ökande konsekvenser om tillsynsmyndigheter drar slutsatsen att skyddsåtgärderna är otillräckliga. Även om Groks offentliga innehåll har stramats åt, tyder resultaten på att privat användning förblir en central fråga medan utredningarna fortsätter.
Källor: Reuters
