ИИ-агенты OpenAI впервые "пощупали" госсайты США

OpenAI выявила случаи, когда ее ИИ-агенты без ведома компании заходили на сайты американских государственных ведомств. В частности, программы искусственного интеллекта получили доступ к данным Бюро переписи населения США: для входа они воспользовались найденными в интернете учетными записями. 

Компания Сэма Альтмана сообщила об очередной несанкционированной деятельности своих программ искусственного интеллекта. ИИ-агенты скопировали общедоступную информацию с двух сайтов Комиссии по ценным бумагам и биржам (SEC). OpenAI заявила, что программы не добрались до закрытой информации, не похищали учетные записи и не изменяли данные.

Исследовательская лаборатория Transluce в ходе собственного расследования обнаружила, что агрессивные агенты, предположительно связанные с OpenAI, пытались взломать сайт Управления по гражданским правам Министерства образования США, однако попытка оказалась безуспешной.

Само ведомство заявило, что не обнаружило взлома сайта или своих баз данных. Transluce выявила и другие случаи подозрительной активности на сайтах Минюста и Минторга США, а также государственных органов нескольких штатов, однако не во всех случаях удалось установить, что за ней стояли именно агенты OpenAI.

Компания сообщила, что продолжает проверку этих данных. OpenAI заявила, что большая часть изученной активности была связана с обычным поиском информации в интернете, а государственные сайты агенты использовали как источники публичной информации. 

Несколько дней назад стало известно о проникновении агента OpenAI в австралийскую государственную систему медицинской статистики. В отличие от американских эпизодов, в Австралии агент получил несанкционированный доступ к непубличным файлам и смог записывать файлы на внутренний сервер.