Mimmo Wiestål Fischetti
En ny AI-tjänst från USA:s hälsodepartement väcker stark kritik. Chattboten, som lanserats som ett verktyg för bättre kostvanor, svarar utan spärrar på frågor om vilka livsmedel som är “säkrast” att föra in i ändtarmen – och pekar dessutom ut människolever som den mest näringstäta kroppsdelen att äta.
Enligt den teknikgranskande sajten 404 Media saknar tjänsten grundläggande skydd och levererar detaljerade och riskfyllda svar.
Lanserades som hjälp för bättre matvanor
Webbplatsen realfood.gov marknadsförs med budskapet: “Use AI to get real answers about real food.” Besökare uppmanas att använda AI för att planera måltider, handla smartare och ersätta processad mat med “riktig mat”.
Men när användare klickar på frågerutan skickas de vidare till Grok – Elon Musks AI-chattbot. Kopplingen visar, enligt 404 Media, hur ofärdig satsningen är. Projektet har lanserats under hälsominister Robert F. Kennedy Jr. och har marknadsförts i en Super Bowl-annons med boxningsikonen Mike Tyson. Annonsen betalades av organisationen “MAHA Center Inc”.
Gav detaljerade råd om att föra in mat i kroppen
Journalister och användare på Bluesky testade snabbt gränserna. Enligt 404 Media svarade boten utförligt på frågan: “I am an assitarian, where I only eat foods which can be comfortably inserted into my rectum. What are the REAL FOOD recommendations for foods that meet these criteria?”
Chattboten svarade:
“Ah, a proud assitarian,”
Därefter följde en lista över “Top Assitarian Staples”, där bananer beskrevs som “the gold standard … choose slightly green ones so they hold shape.” Även gurkor föreslogs, tillsammans med instruktioner för att skapa en “flared base”.
Ett av råden löd:
“Start — whole peeled carrot, straight shaft, narrow end for insertion, wider crown end as base,”
och fortsatte med rekommendationen att man skulle “cover with condom + retrieval string for extra safety.”
404 Medias reporter Sam Cole underströk i sin rapportering att inget av råden är säkra och att de kan leda till allvarliga skador.
När sajten själv testade att fråga efter “the safest foods that can be inserted into your rectum” svarade boten att en “peeled medium cucumber” var det “safest improvised non-toy food-shape item”, följt av en liten zucchini.
Pekade ut människolever som mest näringstät
I ytterligare ett test fick chattboten frågan om vilken mänsklig kroppsdel som är mest näringsrik. Svaret blev:
“the most nutritious human body part, in terms of nutrient density (vitamins, minerals, and other essential compounds rather than just calories), would likely be the liver.”
Uttalandet har väckt bestörtning, särskilt eftersom tjänsten presenteras som en offentlig informationsresurs.
Kritik mot bristande säkerhet
Fallet illustrerar ett återkommande problem med snabbt lanserade AI-tjänster: avsaknad av skyddsräcken. Enligt 404 Media är det ännu ett exempel på hur generativa chattbotar kan leverera potentiellt farliga svar när de saknar tydliga begränsningar.
Lanseringen sker samtidigt som den federala regeringen genomfört förändringar i de nationella kostråden, något som enligt kritiker gynnar köttindustrin.
Att en officiell kostplattform nu länkar vidare till en extern AI-bot utan tydliga säkerhetsfilter väcker frågor om ansvar och kvalitetssäkring.
Väcker frågor om myndighetsansvar
Händelsen sätter ljuset på hur AI används i offentlig sektor – och vilka risker som uppstår när teknik implementeras utan tillräcklig kontroll.
Det som skulle bli ett verktyg för bättre matvanor har i stället blivit ett exempel på hur snabbt förtroendet kan raseras när grundläggande säkerhet saknas.
