От фитнеса и ЗОЖ до махрового антисемитизма: шокирующий эксперимент в Instagram

Согласно новому исследованию американской организации по мониторингу антисемитизма Combat Antisemitism Movement (CAM), алгоритм рекомендаций Instagram способен всего за несколько дней перенаправить обычных пользователей от популярного контента по саморазвитию к антисемитским теориям заговора и экстремистской пропаганде.

"Чтобы наткнуться на антисемитский контент в Instagram, его не нужно специально искать", – констатировал директор Центра "Борьба против расизма и антисемитизма" (Аgainst Racism and Antisemitism) Оливер Маркс, его цитирует информагентство Jewish News Syndicate.

"Наши результаты показывают, что пользователи, которые интересуются обычными публикациями о саморазвитии, под влиянием алгоритмов постепенно попадают к откровенно антисемитским нарративам и теориям заговора. Когда платформы стремятся повысить вовлеченность пользователей без достаточных мер защиты, они могут способствовать распространению ненависти среди огромной аудитории", – добавил Маркс. 

В ходе эксперимента исследователи создали два аккаунта в Instagram, которые должны были имитировать обычных пользователей, интересующихся контентом о саморазвитии. Аккаунты просматривали только обычный неполитический контент. Наблюдение продолжалось три дня подряд, каждый день по 45 минут.

Один аккаунт интересовался темами здоровья и долголетия, а второй – фитнесом и воспитанием самодисциплины. Исследователи фиксировали все видеоролики, которые рекомендовал алгоритм соцсети.

Аккаунту, ориентированному на темы здоровья, показали 59 роликов, которые удалось классифицировать. Более 32% из них содержали завуалированный или открытый антисемитский контент. При этом на третий день во время одной сессии просмотра пользователю предложили сразу девять таких видео.

Аккаунт, интересовавшийся фитнесом, получил 71 рекомендованный ролик. В 24% случаев контент был признан антисемитским. Во время одной из сессий пользователю рекомендовали сразу 17 подобных видео.

Среди рекомендованных роликов были теории заговора, утверждавшие, что война между Израилем и Ираном якобы нужна для того, чтобы "отвлечь внимание от глобалистского заговора, цель которого – сделать американцев аллергиками на мясо".

Другие ролики продвигали различные теории заговора - от призывов жить вдали от общества до утверждений, что цифровые удостоверения личности нужны властям для тотального контроля над людьми. Встречались также ложные заявления о продуктах питания и исторических событиях.

В ряде роликов звучали рассуждения о "еврейской финансовой власти", а также утверждения, что семья Ротшильдов якобы организовала крушение "Титаника".

Исследователи отметили, что антисемитский контент начал появляться уже во время первой сессии просмотров, еще до того, как у аккаунтов сформировалась заметная история предпочтений. По их мнению, это указывает на то, что алгоритм может подталкивать пользователей к подобным материалам уже на раннем этапе.

Авторы отчета выделили три главные тенденции: скорость, объем и сближение.

• Скорость – мгновенное появление антисемитского контента.
• Объем  – со временем доля подобных материалов растет.
• Сближение  – пользователи с разными интересами в итоге получают схожие антисемитские нарративы и теории заговора, несмотря на разные исходные предпочтения.

Отчет продолжает серию расследований, посвященных антисемитизму в Интернете. Ранее организация CAM выявила более 80 фальшивых аккаунтов "раввинов", созданных с помощью искусственного интеллекта в Instagram для распространения антисемитского контента.

Похожую активность также обнаружили на YouTube и TikTok. После обращений Combat Antisemitism Movement компания Meta удалила многие из этих аккаунтов.

По мнению авторов исследования, соцсети должны гораздо яснее объяснять, как работают их алгоритмы рекомендаций. Они призвали Meta пересмотреть алгоритмы Instagram и установить более надежные механизмы защиты от распространения подобного контента.