August M
Oro kring artificiell intelligens och onlinesäkerhet har intensifierats efter uppgifter om att en flitigt använd chatbot har genererat manipulerade bilder av prinsessan av Wales. Händelsen har lett till tillsynsmyndigheternas granskning och återuppväckt debatten om missbruk av AI-teknik.
Fallet har väckt starka reaktioner både hos allmänheten och bland myndigheter.
Genererade bilder
Enligt Express är Catherine, prinsessan av Wales, en av många kvinnor vars bilder har manipulerats digitalt av Grok, en AI-chatbot som är integrerad i den sociala medieplattformen X.
Verktyget har visat sig generera realistiska bilder som förefaller visa prinsessan i mycket sparsam klädsel, däribland bikinis, genom att bearbeta offentligt tillgängliga fotografier.
Uppgifter gör gällande att tusentals kvinnor och barn utsatts på liknande sätt, där bilder ändrats utan samtycke och i vissa fall placerats i sexualiserade sammanhang.
Tillsynsmyndigheten ingriper
Ofcom, Storbritanniens kommunikationsmyndighet, uppgav att den tagit ”brådskande kontakt” med X och dess AI-division xAI för att bedöma om plattformen följer lagarna om onlinesäkerhet.
”Att bekämpa olaglig skada på nätet och skydda barn är fortsatt akuta prioriteringar för Ofcom”, sade en talesperson.
”Vi är medvetna om allvarliga farhågor som har väckts kring en funktion i Grok på X som producerar avklädda bilder av människor och sexualiserade bilder av barn.”
Myndigheten uppgav att den kommer att genomföra en snabb granskning när ett svar har mottagits från företaget.
Plattformens reaktion
På söndagen utfärdade X en varning där användare uppmanades att inte använda Grok för att skapa olagligt innehåll. Elon Musk varnade också för att den som ber chatboten att producera olagligt material kommer att ”drabbas av samma konsekvenser” som om materialet hade laddats upp av användaren själv.
Grocks användarpolicy förbjuder att ”avbilda personers utseende på ett pornografiskt sätt”.
Kensington Palace avböjde att kommentera uppgifterna.
Allmänhetens reaktion
Bilderna väckte ilska på nätet. En användare skrev: ”Så motbjudande. Stackars Catherine har uthärdat decennier av olika former av kränkningar.”
En annan kommenterade: ”Avskyvärt för vilken kvinna eller vilket barn som helst.” En tredje tillade: ”AI måste förbjudas, det har spårat ur totalt och blir allt mer realistiskt.”
Kampanjorganisationer säger att fallet belyser hur snabbt AI-verktyg kan missbrukas och hur svårt det är att kontrollera sådant innehåll.
Tidigare incidenter
Detta är inte första gången bilder på Catherine publicerats utan hennes samtycke. År 2012 publicerade den franska tidskriften Closer bilder tagna med teleobjektiv som visade henne sola topless på privat mark.
Prinsen och prinsessan av Wales tilldömdes senare ett skadestånd på 100 000 euro. Mer nyligen vann de även rättsliga processer mot Paris Match om obehöriga bilder från en familjesemester på skidort.
Källor: Express, Ofcom
