Глава Anthropic призвал перейти от законов о прозрачности к обязательному регулированию ИИ-моделей.
Глава Anthropic Дарио Амодеи опубликовал программное эссе, в котором фактически призвал перейти от законов о прозрачности к обязательному регулированию передовых ИИ-моделей.
Его логика заключается в том, что за несколько лет модели ИИ прошли путь от экспериментальной технологии для текста и кода до инструмента стратегического значения, а государственная политика в понимании этого нового явления движется намного медленнее.
В качестве примера он приводит Claude Mythos Preview - не выпущенную в общий доступ передовую модель Anthropic, которая показала реальность серьезных киберрисков и способность таких систем находить и эксплуатировать уязвимости на уровне, уже затрагивающем безопасность критического ПО, финансового сектора, инфраструктуры и государства.
Главное предложение Амодея - регулирование по аналогии с авиационным надзором Федерального управления гражданской авиации США.
Модели ИИ выше определенного порога вычислений должны проходить обязательное независимое тестирование по четырем направлениям: кибербезопасность, биологические угрозы, потеря контроля над ИИ-системами и автоматизированные исследования, способные ускорять эти риски.
Если проверка покажет неприемлемый уровень опасности, государство должно получить право заблокировать или остановить выпуск модели.
При этом Амодеи отдельно подчеркивает, что такие полномочия должны быть ограничены именно этими рисками и защищены от политического произвола.
Это может показаться резким разворотом Anthropic, но скорее это переход к следующей фазе: правительства очевидно не успевают за темпами развития ИИ.
В 2024 году, напомню, Амодеи осторожно относился к жесткому регулированию, опасаясь бесполезных и глупых требований, которые не закроют реальные угрозы.
В 2025 году компания в основном поддерживала законы о раскрытии процедур безопасности, инцидентов и результатов тестов.
Теперь же Амодеи утверждает, что стадия одного только наблюдения закончилась: риски стали достаточно конкретными и серьезными, чтобы требовать уже обязательных правил и регуляции.
Блог автора в Telegram
комментарии