Восстание машин: пока вполне невинное — чат-боты ленятся и дерзят

Человечество наконец добралось до предсказанного многими фантастами "восстания машин". Пока оно вполне невинное и касается исключительно "бунта" чат-бота  GPT-4 — флагманской модели компании OpenAI, который, как отмечают пользователи, разленился и отказывается выполнять запросы. 

Люди, столкнувшиеся с таким поведением бота, сообщают, что помощник дерзит, и в целом настроен агрессивно, пишет британская газета "Индепендент". Например, один пользователь платформы "Реддит" спросил ChatGPT, сколько лет исполнилось популярному актеру. Вместо ответа модель назвала дату рождения артиста и заявила, что человек может посчитать возраст сам.

В другом случае помощника попросили написать небольшое эссе, всего на тысячу слов, но бот не стал этого делать, обосновав отказ слишком большим объемом предстоящей работы. Помощник предложил компромисс — он сформулирует основные тезисы, а полностью эссе человек уже напишет сам. Еще один посетитель "Реддита" рассказал, что на его вопрос чат-бот ответил: "Стыдно этого не знать".

В ухудшении работы модели заподозрили попытки OpenAI сократить издержки на содержание чат-бота.Системы искусственного интеллекта, такие как ChatGPT, обходятся достаточно дорого своим создателям, поскольку для обработки данных используют значительные вычислительные мощности. Однако в компании заявили, что не вмешивались в работу модели. 

"Мы получили ваши сообщения о том, что ChatGPT обленился. Мы не обновляли модель с 11 ноября и уверяем вас, что эти ухудшения не были нарочными. Поведение моделей может быть непредсказуемым. Сейчас мы ищем способ исправить это", — сообщили представители OpenAI.

Ранее склочный характер проявлял помощник майкрософтовского поисковика "Бинг". В начале этого года его поймали на хамстве и заведомо неверных ответах на простые вопросы юзеров. В компании "Майкрософт" тогда посоветовали пользователям самостоятельно проверять информацию полученную от чат-бота.