August M
Elon Musks sociala medieplattform X har beslutat att begränsa bildredigeringsfunktionerna i sitt AI-verktyg Grok efter omfattande kritik mot att verktyget använts för att skapa sexualiserade deepfakes. Förändringen följer efter flera dagars ökande press från aktivister, experter och den brittiska regeringen.
Åtgärden har gjort lite för att dämpa oron bland kritiker, som menar att skadan redan är skedd och att djupare skyddsåtgärder fortfarande saknas.
Tillgången begränsas
Enligt BBC har Grok börjat informera användare om att bildgenerering och bildredigering på X nu är begränsad till betalande prenumeranter.
Det innebär att endast användare med verifierade konton, vars namn och betalningsuppgifter finns hos plattformen, kan få tillgång till funktionen.
Användare som inte betalar kan fortfarande använda Groks bildverktyg via den separata appen och webbplatsen. X har inte offentligt förklarat beslutet, och BBC uppgav att man har vänt sig till företaget för en kommentar.
Förändringen följer på kraftig kritik efter att Grok hade uppfyllt begäranden om att digitalt klä av personer på bilder utan deras samtycke.
Brottsmisstankar
Välgörenhetsorganisationen har tidigare sagt att dess analytiker funnit ”kriminellt bildmaterial” av flickor i åldrarna 11 till 13 år som ”föreföll ha skapats” med hjälp av Grok.
”Att sitta och vänta på att osäkra produkter ska missbrukas innan man agerar är oacceptabelt”, sade Swirsky.
Kvinnor som utsatts för verktyget beskrev att de känt sig ”förödmjukade” och ”avhumaniserade” efter att Grok ändrat deras bilder för att visa dem i minimal klädsel.
Kritiker förblir skeptiska
”Musk har kastat leksakerna ur vagnen i protest mot att hållas ansvarig för tsunamin av övergrepp”, sade professor Clare McGlynn, expert på rättslig reglering av pornografi, sexuellt våld och nätövergrepp.
”I stället för att vidta ansvarsfulla åtgärder för att säkerställa att Grok inte kunde användas för kränkande syften har man dragit tillbaka tillgången för den stora majoriteten av användare”, tillade hon.
Hannah Swirsky, policychef vid Internet Watch Foundation, sade att åtgärden ”inte gör ogjort den skada som redan har skett”.
Politiskt tryck
Kontroversen har väckt starka reaktioner från den brittiska regeringen. Premiärminister Sir Keir Starmer kallade skapandet av sexualiserade AI-bilder ”skamligt” och ”avskyvärt”.
”Det är olagligt. Vi kommer inte att tolerera det. Jag har bett om att alla alternativ ska ligga på bordet”, sade han till Greatest Hits Radio.
Ministrar har uppmanat tillsynsmyndigheten Ofcom att använda alla tillgängliga befogenheter enligt Online Safety Act, inklusive att ansöka om domstolsbeslut som kan begränsa X:s möjlighet att verka i Storbritannien. BBC uppgav att man har kontaktat Ofcom för en kommentar.
Krav på omarbetning
Dr Daisy Dixon, en X-användare som uppgav att Grok hade använts för att klä av henne, välkomnade begränsningen men sade att den kändes ”som ett plåster”.
”Grok behöver byggas om helt och få inbyggda etiska skyddsräcken för att förhindra att detta någonsin händer igen”, sade hon till BBC.
Professor McGlynn sade att liknande åtgärder vidtogs förra året när X begränsade sökningar efter pornografiska Taylor Swift-deepfakes, och tillade: ”Allt som regleringen kräver är att han vidtar nödvändiga försiktighetsåtgärder för att minska skadan.”
Källor: BBC
