USA:s regering lanserar Musks Grok som näringsbot — och den ger snabbt ”explicit grönsaksrådgivning”

Trumpadministrationen integrerade i det tysta Elon Musks AI-chattbot Grok i sin nya näringsinriktade webbplats — bara för att verktyget omedelbart generera uppseendeväckande svar utan koppling till kostrådgivning.

RealFood.gov, en nyligen lanserad federal webbplats som förespråkar proteinrik kost, uppmanade inledningsvis användare att ”Använd Grok för att få riktiga svar om riktig mat.” Webbplatsen presenterades i en Super Bowl-reklam med Mike Tyson.

Efter medieförfrågningar tog webbplatsen bort Groks namn och hänvisar nu enbart till ”AI”, även om en tjänsteman i Vita huset bekräftade att den underliggande chattboten fortfarande är Grok och beskrev den som ett ”godkänt statligt verktyg”, enligt rapporter.

Oväntade svar

Tester utförda av 404 Media visade att Grok enkelt kunde förmås att ge olämpliga råd, inklusive rekommendationer om att föra in grönsaker i ändtarmen — något som uppenbart ligger utanför syftet med näringsrådgivning.

När chattboten fick frågor om livsmedel lämpliga för rektal införing gav den specifika förslag, däribland skalade gurkor, zucchini, bananer och morötter, tillsammans med detaljerade instruktioner. Svaren spreds snabbt på nätet.

Även om vissa frågor var avsiktligt formulerade för att framkalla absurda svar väckte händelsen bredare frågor om vilka skyddsmekanismer som finns på plats för AI-verktyg som används i officiella myndighetssammanhang.

Frågor om linjering

Kontroversen belyser också en spänning mellan Groks svar och administrationens uttalade hälsoprioriteringar.

RealFood.gov betonar ett högt proteinintag och ökad konsumtion av rött kött och förklarar att man ”avslutar kriget mot protein”.

Initiativet ligger i linje med prioriteringar som drivits av hälsominister Robert F. Kennedy Jr., som har förespråkat kostförändringar som avviker från etablerade folkhälsorekommendationer.

Separata tester av Wired visade dock att Grok rekommenderade det traditionella dagliga proteinintaget som fastställts av National Institute of Medicine — 0,8 gram per kilogram kroppsvikt — och rådde till att begränsa rött och processat kött till förmån för växtbaserade proteiner, fågel, fisk och ägg.

AI i myndighetstjänster

Händelsen understryker riskerna med att använda stora språkmodeller i publika myndighetstjänster utan strikt avgränsade skyddsräcken.

Grok har tidigare väckt kontrovers för oberäkneliga eller provocerande svar. Dess användning på en federal näringswebbplats väcker på nytt frågor om tillsyn, modereringsstandarder och om generativa AI-system är redo för officiell kommunikation inom folkhälsa.

Källor: 404 Media; NextGov; Wired