Група закликає федеральне агентство зупинити використання Grok AI Ілона Маска через побоювання щодо расизму

Коротко

• Public Citizen опублікувала нові докази того, що Grok посилається на неонацистські та біло-націоналістичні вебсайти як на достовірні джерела.
• Група надіслала листи до Офісу управління та бюджету з закликом призупинити федеральне використання, але не отримала відповіді.
• Адвокати заявили, що поведінка Grok і навчальні дані роблять його непридатним для федерального впровадження на тлі розширення державних контрактів xAI.

Hub мистецтва, моди та розваг Decrypt.

Відкрийте SCENE

Public Citizen, некомерційна організація із захисту прав споживачів, у п’ятницю посилила свої попередження щодо Grok AI Ілона Маска після публікації нових доказів того, що чат-бот посилається на неонацистські та біло-націоналістичні вебсайти як на достовірні джерела.

Група заявила, що така поведінка повинна дискваліфікувати Grok від будь-якого федерального використання, і знову закликала Управління з питань менеджменту та бюджету США втрутитися після кількох місяців без відповіді.

Посилаючись на нещодавнє дослідження Корнельського університету, Public Citizen повідомила, що Grokipedia, нова альтернатива Wikipedia на базі ІІ, запущена Маском у жовтні, неодноразово показувала екстремістські домени, включаючи Stormfront, посилюючи попередні побоювання, які виникли після того, як модель назвала себе “MechaHitler” на платформі Маска X у липні.

Висновки підкреслили те, що адвокати описали як тенденцію до расистської, антисемітської та конспіративної поведінки.

“Grok неодноразово демонстрував подібні зриви — чи то антисемітські, чи расистські, чи такі, що підживлюються теоріями змови,” — сказав J.B. Branch, адвокат із підзвітності Big Tech у Public Citizen, для Decrypt.

Нове попередження пролунало після того, як Public Citizen і ще 24 групи з питань громадянських прав, цифрових прав, екології й захисту прав споживачів надіслали листи до OMB у серпні та жовтні, закликаючи агентство призупинити доступність Grok для федеральних відомств через Генеральну службу адміністрування, яка керує федеральною власністю та закупівлями. Група заявила, що на жодне звернення відповіді не отримала.

Попри повторювані інциденти, присутність Grok у структурах влади зросла за останній рік. У липні xAI отримала контракт Пентагону на $200 мільйонів, а Генеральна служба адміністрування згодом зробила модель доступною для всіх федеральних агентств разом із Gemini, Meta AI, ChatGPT і Claude. Це відбулося на тлі того, що президент США Дональд Трамп видав указ про заборону “woke AI” у федеральних контрактах.

Адвокати зазначили, що ці кроки підсилюють потребу у ретельній перевірці, особливо на тлі зростаючих питань щодо навчальних даних та надійності Grok.

“Спочатку Grok був обмежений Міністерством оборони, що вже було тривожним, враховуючи обсяг чутливих даних у відомстві,” — зазначив Branch. “Розширення його на всю федеральну владу стало ще більшим приводом для занепокоєння.”

Branch зазначив, що поведінка Grok частково зумовлена його навчальними даними та виборами в дизайні всередині компаній Маска.

“Між Grok та іншими мовними моделями є помітна різниця в якості, і частково це через навчальні дані, які включають X,” — сказав він. “Маск сам заявляв, що хоче зробити Grok анти-woke альтернативою, і це простежується у ворожих відповідях моделі.”

Branch також висловив занепокоєння щодо потенційного використання моделі для оцінки федеральних заявок або взаємодії з чутливими персональними даними.

“Є розрив цінностей між тим, за що виступає Америка, і тим, що говорить Grok,” — сказав він. “Якщо ви єврей і подаєте заявку на федеральний кредит, чи хотіли б ви, щоб вашу заявку розглядав потенційно антисемітський чат-бот? Звісно, ні.”

Branch зазначив, що справа Grok виявила прогалини у федеральному нагляді за новими системами ІІ, додавши, що урядовці можуть у будь-який момент видалити Grok із контрактного графіка Генеральної служби адміністрування — якщо захочуть.

“Якщо вони здатні розгорнути Нацгвардію по всій країні за лічені хвилини, вони точно можуть прибрати чат-бот із API за один день,” — сказав він.

xAI не відповіла на запит про коментар для Decrypt.