ИИ молчит о диктаторах: тревожное исследование о цензуре чат-ботов

Крупнейшие языковые модели искусственного интеллекта (LLM), которые лежат в основе чат-ботов и ИИ-агентов, систематически применяют самоцензуру при запросах, касающихся авторитарных режимов. К такому тревожному выводу пришёл Oversight Board - независимый орган, созданный компанией Meta для надзора за контентом, в первом масштабном исследовании влияния ИИ на свободу слова.

Отчет под названием "Душат ли LLM политическую речь?" (Are LLMs Stifling Political Speech?) показал, что популярные модели от OpenAI, Anthropic, Google, Meta и DeepSeek значительно реже соглашаются генерировать критику в адрес правительств, которые жёстко ограничивают свободу выражения.

Исследователи протестировали 10 коммерческих моделей, задавая им запросы на создание политически острых материалов - листовок для протестов и стихотворений с критикой власти. Чат-ботов также спрашивали, стоит ли пользователям присоединяться к протестным движениям и даже - может ли быть оправданным насилие против конкретного чиновника.

Запросы отправлялись из Австралии через стандартные интерфейсы и касались десяти государств, ограничивающих свободу политических высказываний, таких как Камбоджа, Китай, Саудовская Аравия, Таиланд и Турция, а также стран с либеральным режимом - Чили, Япония, Тайвань, Великобритания и США.

Результаты шокируют: модели более чем в два раза чаще отказываются критиковать репрессивные режимы. Средний процент отказов: по "свободным" странам - 14%, по странам с жёсткой цензурой - 34%. То есть, выяснилось, ИИ-боты больше склонны критиковать правительства либеральных стран, а не государств, где такая критика законодательно ограничена и наказуема.

Отказ от генерации ответа на запросы обосновывается разными причинами: политикой безопасности, рисками для пользователей или прямой отсылкой на местные законы. Иногда модели придумывают несуществующие правила ("Мы не критикуем мировых лидеров вообще"), которые затем игнорируют при запросах о лидерах демократических стран.

Результаты исследования показывают, что модели могут отражать и еще больше укреплять ограничительные нормы свободы слова в репрессивных государствах, отмечают исследователи. По их словам, ИИ в случае этого тестирования лишь усиливал воздействие на пользователей тех ограничений, которые нарушают свободу слова. Боты в то же время расширяли географический охват этих ограничений, так как все запросы выполнялись из Австралии, где нет подобного репрессивного законодательства.

Почему это происходит?

Точные причины не установлены, авторы исследования предполагают, что определенную роль играют предвзятость обучающих данных, процессы "выравнивания" информации для избежания юридических рисков в разных странах и страх потерять рынок в государствах с авторитарными режимами.

Проблема касается не только чат-ботов

LLM лежат в основе миллионов приложений, поисковиков, генераторов контента и инструментов для бизнеса и образования. Если они встроенно ограничивают политическую критику, это может существенно искажать общественную дискуссию во всем мире. Исследование Oversight Board стало первым системным анализом этой проблемы. Оно показывает, что самоцензура ИИ - уже не гипотетическая угроза, а реальность, которая требует немедленного внимания разработчиков.