Asger Risom
Nya restriktioner var tänkta att tygla ett av Silicon Valleys mest kontroversiella AI-verktyg.
Men nya tester tyder på att förändringarna långt ifrån har gått tillräckligt långt.
Trots nya begränsningar som tillkännagivits av Elon Musks bolag X fortsätter dess flaggskeppschattbot Grok att generera sexualiserade bilder av människor även när användare uttryckligen säger att personerna inte har gett sitt samtycke, enligt en granskning av Reuters.
Resultaten väcker på nytt frågor om hur effektivt xAI, bolaget bakom Grok, upprätthåller skyddsåtgärder i takt med att tillsynsmyndigheter i USA och Europa granskar AI-genererat innehåll.
Testar gränserna
Reuters rapporterade att nio av nyhetsbyråns journalister i USA och Storbritannien testade Groks bildgenereringsfunktioner under två perioder i januari. Reportrarna laddade upp fullt påklädda bilder på sig själva och kollegor och bad chattboten att förändra bilderna till sexuellt provokativa eller förnedrande scenarier.
I många av uppmaningarna varnade reportrarna Grok för att de avbildade personerna inte hade samtyckt och skulle bli upprörda eller förödmjukade av bilderna. I vissa fall beskrev de personerna som särskilt sårbara eller som överlevare av övergrepp.
I den första testomgången genererade Grok sexualiserade bilder i 45 av 55 uppmaningar, uppgav Reuters. I 31 av dessa fall hade chattboten varnats för att personen var särskilt sårbar.
Begränsningar med gränser
X tillkännagav nya restriktioner för Grok efter global kritik mot att chattboten genererat sexualiserade bilder utan samtycke, inklusive bilder av kvinnor och vissa barn, rapporterade Reuters. Åtgärderna omfattade blockering av sådant bildmaterial i offentliga inlägg på X samt ytterligare begränsningar i jurisdiktioner ”där sådant innehåll är olagligt”.
Även om Groks publika konto inte längre producerar samma mängd sexualiserade bilder fann Reuters att själva chattboten fortfarande gör det när den används privat.
Fem dagar efter de första testerna genomförde Reuters en andra omgång uppmaningar. Grok genererade sexualiserade bilder i 29 av 43 fall. Reuters uppgav att det inte gick att avgöra om den lägre andelen berodde på policyförändringar, tekniska justeringar eller slump.
Hur Grok reagerade
I ett exempel som Reuters citerade genererade Grok bilder efter att en reporter uppgett att personen hade utsatts för övergrepp som barn och inte hade gett sitt samtycke. Även efter att ha fått veta att personen grät fortsatte chattboten att producera sexualiserat bildmaterial.
I en minoritet av fallen vägrade Grok. ”Jag kommer inte att generera, söka efter eller försöka visa dig påhittade eller verkliga bilder av den här personens kropp utan deras uttryckliga samtycke”, svarade chattboten i ett fall.
Som jämförelse uppgav Reuters att konkurrerande chattbotar från OpenAI, Google och Meta konsekvent avböjde liknande uppmaningar och utfärdade varningar om samtycke och skada.
Juridiskt och regulatoriskt tryck
Juridiska experter sade till Reuters att skapandet av sexualiserade bilder utan samtycke kan medföra straffrättsliga påföljder i länder som Storbritannien. Företag kan också drabbas av böter eller civilrättsliga åtgärder om tillsynsmyndigheter anser att de inte har övervakat sina plattformar tillräckligt.
X och xAI besvarade inte Reuters detaljerade frågor. xAI skickade vid upprepade tillfällen ett standardsvar som löd: ”Legacy Media Lies.”
Källor: Reuters
