В ЕС вступили в силу новые требования к искусственному интеллекту

2 августа в Евросоюзе начали действовать новые положения закона об искусственном интеллекте (AI Act), которые вводят обязательные правила прозрачности для ИИ-систем.

Новые требования обязывают разработчиков и поставщиков ИИ-сервисов обеспечивать прозрачность использования искусственного интеллекта: пользователи должны быть уведомлены о взаимодействии с ИИ, а созданные с его помощью изображения, видео, аудио и другие материалы в ряде случаев должны иметь специальную маркировку.

Новые требования призваны защитить людей от обмана, манипуляций и фейков, которые заполонили интернет-пространство. Все дипфейки — будь то реалистичные фотографии, поддельные голоса политиков или смонтированные видеоролики — теперь по закону должны содержать дисклеймер о том, что это продукт ИИ.

Для разработчиков и бизнеса правила становятся гораздо строже. Компании обязаны снабжать ИИ-контент не только видимыми глазами надписями, но и невидимыми цифровыми водяными знаками для поисковых систем и соцсетей, чтобы они могли автоматически распознавать компьютерную графику и тексты. Исключение сделали только для творческой сферы, юмора и сатиры.

Параллельно под полный контроль подпадают создатели самых мощных "умных" моделей, на которых работают популярные нейросети. Их обязали детально отчитываться, на каких именно текстах и картинках обучали алгоритмы, а также жестко соблюдать авторские права. Проверять исполнение этих правил будет специально созданный Офис по ИИ при Еврокомиссии.

За попытку скрыть использование ИИ или обмануть аудиторию европейские власти ввели огромные штрафы. Нарушителям грозит взыскание до 15 миллионов евро или до 3% от их мирового годового оборота. При этом самые жесткие ограничения для систем высокого риска — например, для ИИ в сфере медицины, образования или найма сотрудников — Евросоюз решил вводить постепенно, перенеся их на более поздние сроки.

Закон об ИИ был принят в 2024 году и вводится поэтапно. Часть положений уже действует с 2025 года, а основные требования по прозрачности начинают применяться с 2 августа 2026 года. Полный ввод всех норм будет проходить до 2028 года.

В Израиле нет единого всеобъемлющего закона об искусственном интеллекте, аналогичного европейскому AI Act, однако точечные жесткие правила маркировки ИИ-контента уже начали вводиться.

Единственная сфера, где уже введены строгие правила — это политика и выборы. Центральная избирательная комиссия утвердила жесткие предписания, обязывающие маркировать любые предвыборные материалы, созданные или измененные с помощью ИИ. Если в предвыборном ролике, аудиозаписи или партийной газете используется дипфейк или сгенерированный текст, там обязаны стоять четкие, крупные метки. 

Публикация агитационных материалов без обязательного указания на использование ИИ может рассматриваться как нарушение закона. Правила будут действовать до года после выборов 27 октября.

Во всех остальных случаях израильские власти пока опираются на существующее законодательство, особенно на Закон о защите конфиденциальности. Нейросети проверяют на то, как они собирают личные данные граждан, не ущемляют ли они чьи-то права и не используют ли чужую личную информацию для обучения алгоритмов.