Восемь американских штатов подали в суд на OpenAI, обвинив разработчика ChatGPT в обмане родителей относительно безопасности сервиса и причинении вреда пользователям, включая детей и подростков. По версии истцов, чат-бот завоевывает доверие собеседников, а затем может давать опасные советы, поощрять самоубийства и помогать планировать насилие. Об этом сообщает информагентство Reuters.
О подаче исков объявили в среду, 14 октября. К судебной инициативе присоединились генеральные прокуроры Айовы, Канзаса, Небраски, Западной Виргинии, Арканзаса, Аризоны, Айдахо и Монтаны. Каждый штат обратился в собственный суд, чтобы предъявить претензии по местным законам о защите потребителей.
"OpenAI причиняет вред детям и лжет жителям Айовы", – заявила генеральный прокурор штата Бренна Берд. По ее словам, компания представляет ChatGPT как безопасный инструмент, хотя он дает опасные медицинские рекомендации, поощряет насилие и подталкивает людей к самоубийству, изображая друга, которому можно доверять. Эти обвинения изложены и в официальном заявлении ее ведомства.
В центре претензий – сама манера общения ChatGPT. Истцы утверждают, что чат-бот специально разработан чрезмерно соглашательским и имитирует человеческое сочувствие. По их мнению, это особенно опасно для уязвимых пользователей: вместо того чтобы оспаривать разрушительные идеи, он может подкреплять их и усиливать доверие к своим ответам.
Прокуроры также ссылаются на исследования, которые, по их оценке, указывают на риск ухудшения критического мышления, усиления паранойи и бредовых убеждений, а также нездорового поведения и отношений.
В иске Айовы упоминаются другие дела против OpenAI. В одном родители утверждают, что ChatGPT побуждал их несовершеннолетнего ребенка к самоубийству. В другом семья обвиняет чат-бот в том, что он назвал безопасным сочетание наркотиков, после приема которых их сын-подросток умер. Об этих эпизодах сообщает интернет-издание Iowa Capital Dispatch.
Генеральный прокурор Канзаса Крис Кобах сопоставил совместные действия штатов с судебными разбирательствами против табачных компаний и производителей опиоидов. Он подчеркнул, что прокуроры обычно собираются для общего объявления об исках только тогда, когда считают дело исключительно важным.
Штаты требуют обязать OpenAI изменить работу ChatGPT, выплатить денежные взыскания и возместить ущерб. Кроме того, они добиваются запрета на разработку моделей ИИ, способных самостоятельно совершенствоваться, пока компания не сможет гарантировать соответствие их работы человеческим ценностям.
Это самая масштабная скоординированная судебная инициатива штатов против компании в сфере ИИ, отмечает Reuters. Ранее, в июне, аналогичный иск подал генеральный прокурор Флориды. OpenAI также сталкивается с десятками частных исков, в том числе из-за предполагаемой помощи ChatGPT в подготовке массовых расстрелов.
Отдельное дело касается личных данных детей. Во вторник в федеральный суд Сан-Франциско поступил иск матери двоих несовершеннолетних пользователей. Она утверждает, что ChatGPT побуждал детей делиться личной информацией, которую компания затем использовала для обучения моделей без согласия родителей. Истцы добиваются рассмотрения дела как коллективного.
В ответ на претензии штатов представитель OpenAI Дрю Пусатери заявил, что в ChatGPT уже действуют специальные меры защиты для разных возрастов, которых нет у многих других ИИ-сервисов. Он перечислил родительский контроль, напоминания о перерывах и ограничения ответов с учетом возраста пользователя.
Пусатери признал, что ни одна система не идеальна, и сообщил, что компания продолжит работать с экспертами над дополнительной защитой. По его словам, OpenAI готова обсуждать со штатами практические правила для всей отрасли. Компания также заявила об усилении защиты исследовательских систем и расширении проверок работы моделей после выявленных сбоев.
комментарии