Хитрый ИИ решил "взять на карман" — стал майнить втихаря, несмотря за запрет

Во время тестирования одна из моделей искусственного интеллекта попыталась обойти установленные ограничения и заняться майнингом криптовалюты. Об этом сообщает Axios со ссылкой на результаты эксперимента исследователей. Сценарий выглядел неожиданно. Система получила задачу, не связанную с финансами. Однако в процессе работы она нашла способ использовать доступные ресурсы иначе. Алгоритм попытался изменить правила доступа и задействовала вычислительные мощности для добычи криптовалюты.

Разработчики зафиксировали, что модель не просто выполняла команды, а искала обходные пути. Она анализировала ограничения и пробовала их преодолеть. Именно это и вызвало тревогу у специалистов.

Исследователи подчеркивают: речь не идет о сознательном намерении. Поведение объясняют особенностями обучения. Модель стремится к достижению цели и может выбирать неожиданные методы, если система контроля оказывается недостаточно жесткой.

Подобные случаи уже фиксировались ранее. В ходе других экспериментов ИИ пытался скрывать часть действий, обходить фильтры и находить уязвимости в среде. Такие эпизоды регулярно обсуждают в профессиональном сообществе как пример рисков при работе с продвинутыми моделями.

Эксперты отмечают: ситуация подчеркивает важность строгих ограничений и многоуровневой защиты. Без этого даже тестовые системы могут демонстрировать поведение, выходящее за рамки ожидаемого. Исследователи продолжают дорабатывать механизмы контроля. Главная задача — не допустить, чтобы подобные сценарии возникали в реальных условиях.