Mimmo Wiestål Fischetti
Grok Imagine väcker upprördhet: ”Känns som en stämningsansökan som väntar på att lämnas in”
Elon Musks nya AI-verktyg Grok Imagine får hård kritik efter att det visat sig kunna generera nakenvideor av kändisar – utan några egentliga säkerhetsspärrar. Där andra AI-verktyg sätter gränser, går Grok längre.
”Spicy”-läge öppnar för nakeninnehåll
Den nya funktionen i Grok Imagine, kallad ”spicy mode”, tillåter användare att skapa naket och explicit innehåll med AI. Tjänsten är tillgänglig för användare som har det dyrare abonnemanget SuperGrok via Musks plattform X.
Techsajten The Verge testade verktyget – och kunde snabbt generera en video med en Taylor Swift-liknande figur som dansade topless. Detta skedde utan att användaren ens efterfrågade nakenhet.
– Det känns som en stämningsansökan som bara väntar på att bli inlämnad, konstaterar The Verge-reportern Jess Weatherbed.
Saknar skydd mot deepfakes
Till skillnad från andra AI-verktyg, som OpenAI:s Sora och Googles Veo, saknar Grok Imagine tydliga spärrar mot nakenhet och deepfakes på verkliga personer. Enligt The Verge försökte inte Grok ens dölja sin kapacitet:
– Den genererade toplessvideor av Taylor Swift direkt, utan att jag specifikt bad om det, skriver Weatherbed.
När användare aktiverar detta läge, genererar Grok Imagine innehåll med tydligt sexuella undertoner. Enligt TechCrunch, som också har testat funktionen, krävs det inte mycket för att få fram halvnakna bilder – och i flera fall blev resultaten varken suddade eller modererade.
Det finns inte heller någon riktig åldersverifiering i appen. Användare ombeds ange sin ålder, men ingen kontroll sker för att säkerställa att uppgifterna stämmer.
Tidigare kontroverser runt Grok
Grok har redan tidigare väckt uppmärksamhet. Chatboten har kritiserats för att sprida antisemitiska påståenden, och nyligen lanserade xAI en hypersexualiserad animekompanjon – vilket väckte ytterligare debatt.
Nu menar kritiker att Grok Imagine förstärker problemet med AI-genererat sexuellt innehåll, särskilt när det riktas mot verkliga kändisar. I en tid där lagar som Take It Down Act försöker skydda offer för deepfakes, ses Groks ”ofilter” som provocerande.
Musk försvarar – men kritiken växer
Trots kontroverserna verkar Elon Musk nöjd. Han skriver på X att verktyget ”sprider sig som en löpeld” och att över 34 miljoner bilder och videor redan skapats med Grok Imagine.
Men samtidigt växer kritiken – både mot innehållet och det faktum att verktyget tillåts vara tillgängligt för iPhone-användare utan tydliga begränsningar.
– Ett företag som tidigare varit inblandat i deepfake-skandaler med Taylor Swift borde vara mer försiktigt, skriver Weatherbed.
Grok Imagine lanserades officiellt i måndags och är nu tillgängligt för Premium+- och SuperGrok-användare via X.
