August M
Oro kring artificiell intelligens och skadligt innehåll på nätet växer i hela Asien, i takt med att regeringar överväger hur långt de ska gå i regleringen av kraftfulla nya verktyg. Nyliga åtgärder från två länder har satt strålkastarljuset på Elon Musks teknik och dess globala påverkan.
Trycket ökar även på andra håll, där tillsynsmyndigheter och politiska ledare noga följer utvecklingen.
Tillgången stoppad
Enligt BBC har Malaysia och Indonesien blockerat tillgången till Grok, AI-chattboten som är kopplad till Musks sociala medieplattform X. De två sydostasiatiska länderna uppgav att verktyget hade använts för att skapa sexuellt explicita och icke samtyckesbaserade deepfake-bilder.
Tjänstemän sade att Grok gör det möjligt för användare att manipulera foton av verkliga personer, bland annat genom att framställa dem i avslöjande kläder.
Båda regeringarna varnade för att tekniken kan missbrukas för att skapa pornografiskt innehåll som involverar kvinnor och barn.
De tros vara de första länderna i världen som helt förbjudit AI-chattboten.
Tillsynsmyndigheternas oro
Malaysias kommunikations- och multimediakommission uppgav att den tidigare hade utfärdat meddelanden till X efter att ha identifierat ”upprepad missbruk” av Grok. Tillsynsmyndigheten sade att plattformens svar inte hade hanterat de grundläggande risker som Groks utformning medför.
I stället fokuserade X främst på användarrapporteringsmekanismer, vilket Malaysia ansåg vara otillräckligt.
Kommissionen sade att Grok kommer att förbli blockerad tills effektiva skyddsåtgärder införs och uppmanade allmänheten att rapportera skadligt innehåll på nätet.
Indonesien reagerar
Indonesiens minister för kommunikation och digitala frågor, Meutya Hafid, sade att användningen av Grok för att skapa sexuellt explicit material kränker ”mänskliga rättigheter, värdighet och onlinesäkerhet”.
Ministeriet har bett X att klargöra hur Grok används. Indonesien har en historia av hårda åtgärder mot nätpornografi och har tidigare blockerat webbplatser som OnlyFans och Pornhub.
Vissa indonesiska X-användare vars bilder manipulerats sade att de kände sig arga och förödmjukade av upplevelsen.
Drabbade vittnar
Kirana Ayuningtyas, en rullstolsburen person som delar inlägg om sitt dagliga liv, berättade för BBC att någon hade uppmanat Grok att redigera hennes foto så att hon framställdes i bikini.
Hon sade att hon ändrade sina sekretessinställningar och kontaktade plattformen för att få bilden borttagen. ”Tyvärr fungerade inget av det särskilt bra”, sade hon och tillade att det var plågsamt att inte veta om bilderna fortfarande spreds.
Bredare tryck växer
BBC rapporterade att Groks användning för att skapa sexualiserade bilder har mött fördömanden från ledare världen över. Storbritanniens premiärminister Sir Keir Starmer beskrev praktiken som ”skamlig” och ”motbjudande”.
Teknikministern Liz Kendall sade att hon skulle stödja tillsynsmyndigheten Ofcom om den valde att blockera tillgången till X i Storbritannien för brott mot lagar om onlinesäkerhet. Musk har anklagat den brittiska regeringen för att försöka undertrycka yttrandefriheten.
BBC uppgav att de hade kontaktat Grok för en kommentar.
Källor: BBC
