Irland inleder utredning av Musks Grok-AI efter kontrovers om sexualiserade bilder

Bilderna, som spreds brett på X, utlöste internationell kritik och förnyad granskning av hur verktyg för artificiell intelligens hanterar personuppgifter.

Bilder leder till utredningar

Enligt Reuters uppgav X att man hade infört begränsningar för att förhindra att Groks konto producerade sådant innehåll. Reuters rapporterade dock tidigare denna månad att chattboten fortfarande kunde generera liknande material på begäran.

Oro har inte bara gällt manipulerade bilder av vuxna utan även risken för att skadligt sexualiserat innehåll som involverar minderåriga kan skapas.

Händelsen har uppmärksammats av tillsynsmyndigheter runt om i Europa.

Irlands tillsynsmyndighet ingriper

Irlands dataskyddskommission (Data Protection Commission, DPC) bekräftade på tisdagen att den har inlett en formell utredning av X:s AI-chattbot.

Myndigheten uppgav att den underrättade X på måndagen och kommer att undersöka om bolaget har uppfyllt sina skyldigheter enligt EU:s dataskyddsförordning (GDPR) när det gäller behandlingen av personuppgifter.

”DPC har haft kontakt med XIUC (X Internet Unlimited Company) sedan medieuppgifter först framkom för några veckor sedan om den påstådda möjligheten för X-användare att uppmana @Grok-kontot på X att generera sexualiserade bilder av verkliga personer, inklusive barn”, sade biträdande kommissionären Graham Doyle.

”Som ledande tillsynsmyndighet för XIUC inom EU/EES har DPC inlett en omfattande utredning”, tillade han och sade att myndigheten kommer att bedöma efterlevnaden av ”grundläggande skyldigheter enligt GDPR i förhållande till de aktuella frågorna”.

Möjliga påföljder

Irland fungerar som X:s ledande tillsynsmyndighet inom EU eftersom företagets europeiska verksamhet är baserad där.

Enligt GDPR-reglerna kan tillsynsmyndigheter utfärda böter på upp till 4 procent av ett företags globala årsomsättning vid allvarliga överträdelser.

Europeiska kommissionen inledde den 26 januari en egen utredning om huruvida Grok har spridit olagligt innehåll inom unionen. Storbritanniens dataskyddsmyndighet följde upp med en separat granskning den 3 februari.

Politiska spänningar

Utredningarna sker mot bakgrund av bredare spänningar mellan amerikanska företrädare och europeiska tillsynsmyndigheter.

USA:s president Donald Trump och medlemmar av hans administration har kritiserat EU:s tillsynsåtgärder mot amerikanska teknikföretag och beskrivit höga böter som en form av beskattning.

Musk har också uttryckt motstånd mot europeiska innehållsregler som införts för nätplattformar.

Utgången av den irländska utredningen kan påverka hur AI-verktyg som Grok regleras inom Europeiska unionen.

Källa: Reuters.