Трамп принял "почти конституцию" в сфере ИИ

Президент США Дональд Трамп и руководители ведущих американских технологических компаний заключили соглашение о мерах безопасности в сфере искусственного интеллекта. Документ, который Трамп назвал "морально обязывающим" и "почти конституцией", подписали после закрытой встречи с главами технологических гигантов в Белом доме.

Договоренность называется "Соглашение Белого дома по суперинтеллекту", она не имеет юридической силы и ориентирована на саморегулирование отрасли. То есть речь идет не о новом американском законе и не о государственном регулировании, а о добровольном обязательстве.

В рамках соглашения компании должны внедрить несколько уровней проверки безопасности ИИ-систем.

Первый уровень - внутренний контроль. Разработчики должны отслеживать поведение моделей и риски, связанные с их использованием, в том числе в сфере кибербезопасности, биологической и химической безопасности.

Второй - создание специализированных внутренних команд, которые будут проверять, работают ли установленные механизмы безопасности так, как задумано.

Третий уровень - независимый внешний аудит. Компании обязуются допускать внешних специалистов к оценке систем контроля.

Четвертый - надзор на уровне советов директоров. Предполагается создание независимого комитета, который будет получать результаты внутренних проверок и внешних аудитов.

Кроме того, компании договорились регулярно встречаться для выработки общих стандартов и лучших практик. В документе отмечается, что со временем "может иметь смысл" закрепить эти меры в законах или официальных правилах.

Соглашение появилось на фоне растущей обеспокоенности рисками, связанными с быстрым развитием передовых моделей ИИ.

• "Угроза существованию человечества": Reuters обнаружил пугающее предупреждение

При этом Трамп выступает против жесткого регулирования отрасли. По его мнению, это может замедлить инновации и ослабить позиции США в конкуренции, в том числе с Китаем.