Американскому правительству представили отчет об угрозах для человечества со стороны искусственного интеллекта (ИИ). Его подготовила компания Gladstone AI по заказу Госдепартамента США. Исследование, легшее в основу доклада под названием "План действий по повышению безопасности передового искусственного интеллекта", проводилось более года. В "Плане" нарисована тревожная картина катастрофических рисков национальной безопасности и содержится предупреждение о том, что действовать следует прямо сейчас и быстро. 

"При худшем сценарии ИИ может представлять для человечества угрозу уровня вымирания, — утверждают авторы доклада. — Текущее развитие ИИ представляет неотложные и все большие угрозы для национальной безопасности. Прогресс продвинутого ИИ и всеобщего искусственного интеллекта имеет потенциал к дестабилизации мировой безопасности, как это в свое время сделало появление ядерного оружия".

К основным рискам для человечества специалисты отнесли: 

 — Вероятное использование ИИ как оружия — "такие системы могут использоваться для разработки и даже запуска катастрофических биологических, химических или цифровых атак".

— Потеря контроля над ИИ — "системы могут стать неконтролируемыми, если их развивать с помощью современных техник, и вести себя враждебно по отношению к людям по умолчанию".

Обе категории рисков усиливает "динамика соревнования" в индустрии ИИ, отмечают авторы доклада. Вероятность того, что первая компания-разработчик общего искусственного интеллекта получит все сопутствующие экономические преимущества, заставляет ИИ-лаборатории ставить в приоритет скорость, а не безопасность.

В качестве мер по устранению угроз, исходящих от искусственного интеллекта, исследователи предлагают:   

— сформировать Федеральное агентство по вопросам ИИ, которое будет определять максимально допустимый уровень вычислительной мощности для обучения моделей и выдавать разрешения компаниям на применение того или иного уровня вычислительной мощности;

— принять закон, запрещающий публично раскрывать особенности функционирования мощных ИИ-моделей, за нарушение которого должно следовать уголовное наказание в виде тюремного заключения. То есть исследователи предлагают запретить ИИ-системы с открытым исходным кодом (open-source);

— усилить контроль над производством и экспортом ИИ-чипов;

В отчете подчеркивается, что американское правительство должно "быстро и решительно" действовать, чтобы предотвратить существенные риски для нацбезопасности, которые несет искусственный интеллект.  

Отметим, что в конце прошлого года в традиционных "шокирующих прогнозах" датского Saxo Bank упоминался искусственный интеллект, который в текущем году превратится в глобальную угрозу безопасности для человечества. 

Впрочем, не все с пессимизмом смотрят на развитие ИИ. В частности, основатель компании "Майкрософт" миллиардер Билл Гейтс считает это благом для человечества, поскольку людям придется меньше работать.