В это трудно поверить, но придется: чему ИИ может научиться уже в ближайшие месяцы

Искусственный интеллект вскоре может научиться самостоятельно распространяться через домашнюю технику, подключенную к интернету, сообщает агентство Reuters со ссылкой на заявление компании Anthropic. Речь, например, об умных духовках и телевизионных приставках со слабой защитой. Программа сможет находить слабо защищенные устройства, подключенные к интернету, устанавливать на них свою копию, а затем таким же способом распространяться на другие устройства без помощи человека. 

Даже сравнительно простые программы искусственного интеллекта уже способны выполнять отдельные действия, необходимые для создания своих копий на других устройствах. Однако пройти весь процесс самостоятельно, от начала до конца, им пока трудно.

В упрощенных тестах, где часть защитных механизмов была убрана, модель GLM-5.2 и более мощные модели смогли выполнить полный цикл самокопирования.

• "Угроза существованию человечества": Reuters обнаружил пугающее предупреждение

Anthropic предупредила: если такие программы начнут распространяться, остановить их будет трудно. Единой кнопки, которая отключит сразу все копии, нет.

В отличие от обычных компьютерных вирусов, ИИ способен сам разобраться, как использовать незнакомое устройство. Поэтому он может добраться и до мощных компьютеров в центрах обработки данных.

Для экспериментов компания выбрала телевизоры на Android, умную бытовую технику и другие устройства, подключенные к интернету, поскольку их защита от взлома обычно слабая.

По прогнозу Anthropic, если сравнительно простые программы ИИ продолжат развиваться с прежней скоростью, уже к концу года они смогут самостоятельно распространяться на другие устройства. Вскоре они смогут переносить туда и все данные, необходимые для своей работы, создавая полноценные рабочие копии.

По оценке Anthropic, такие автономные системы ИИ, вероятно, будут распространяться медленно и использовать общедоступные, относительно слабо защищенные вычислительные ресурсы. Компания призвала усилить защиту систем, чтобы затруднить распространение таких ИИ-агентов.