Генеративный искусственный интеллект (ИИ) способствует распространению ложной информации о Холокосте, что грозит разжиганием антисемитизма и изменением отношения к исторической правде, следует из доклада ЮНЕСКО, опубликованного во вторник, 18 июня.
"Если мы позволим приукрашивать, искажать или фальсифицировать ужасную правду о Холокосте посредством безответственного использования искусственного интеллекта, мы рискуем столкнуться с агрессивным распространением антисемитизма и ухудшением нашего понимания причин и последствий этих преступлений", – предупредила генеральный директор ЮНЕСКО Одрэ Азуле.
Как указывается в докладе, генеративные модели искусственного интеллекта, такие как ChatGTP, которые по команде создают текст, фотографии, аудио- или видеозаписи, могут сфабриковать несуществующие события Второй мировой войны.
🚨Algorithmic bias in AI can lead to Holocaust denial.
— UNESCO 🏛️ #Education #Sciences #Culture 🇺🇳 (@UNESCO) June 18, 2024
The new UNESCO report "AI technology poses risks to facts about the Holocaust" offers vital solutions to combat #HateSpeech & disinformation: https://t.co/P9hTc2nWOM #NoToHate pic.twitter.com/1wT7f2CngK
Специалисты ЮНЕСКО, к примеру, рассказали, как ChatGPT выдумал, что нацисты массово топили евреев в реках и озерах. А ранее чат-бот Bard от Google генерировал фальшивые цитаты свидетелей Холокоста.
Среди других примеров, приведенных в докладе ЮНЕСКО, были сгенерированный ИИ Йозеф Геббельс, утверждающий, что он пытался спасти еврейские жизни, и дипфейк актрисы "Гарри Поттера" Эммы Уотсон, читающей отрывки из "Майн кампф" Адольфа Гитлера.
"Модели генеративного искусственного интеллекта также имеют тенденцию чрезмерно упрощать историю истребления нацистами еврейского народа и могут быть использованы для распространения нацистской идеологии", – говорится в докладе.
Текст отчета был подготовлен совместно с Всемирным еврейским конгрессом. ООН призывает к "срочным действиям" со стороны правительств, технологических компаний и педагогов.
комментарии