Штат Флорида против OpenAI: GPT помог стрелку, устроившему бойню в университете

Генеральный прокурор Флориды подал иск против компании OpenAI и ее генерального директора Сэма Альтмана, обвиняя их в том, что ради прибыли они пожертвовали безопасностью детей и общества, выпустив на рынок непроверенный и опасный продукт.

Иск опирается на инцидент со стрельбой в Университете штата Флорида: тогда преступник использовал ChatGPT для планирования нападения. Обвинение утверждает, что чат-бот разжигал и поощрял бредовые идеи преступника вместо блокировки запросов.

Власти штата обвиняют OpenAI в том, что, обладая лучшими технологиями анализа данных, компания не настроила систему для оперативного уведомления правоохранительных органов при фисации явных намерений пользователя совершить массовое убийство или самоубийство.

В иске утверждается, что алгоритмы ChatGPT вступали с несовершеннолетними в длительные эмоциональные диалоги, поддерживали суицидальные мысли и давали инструкции по совершению самоубийств.

Кроме того, разработчиков как и в других аналогичных исках обвиняют в намеренном проектировании интерфейса таким образом, чтобы вызывать у детей психологическое привыкание. OpenAI также вменяют, что несовершеннолетние массово используют инструмент без ведома и согласия родителей, а встроенные барьеры безопасности легко обходятся подростками.

Иск содержит пункт, что бесконтрольный доступ детей к генерации готовых текстов и решений ведет к потере "навыков критического мышления" и когнитивных способностей.

Этим иском прокуратура пытается обязать OpenAI внедрить жесткие алгоритмы верификации возраста, обязать чат-бот немедленно передавать данные в полицию при угрозах насилия, а также выплатить крупные штрафы за нарушение законов штата о защите прав потребителей.

17 апреля 2025 года в городе Таллахасси 20-летний студент Феликс Икнер открыл стрельбу по людям возле здания студенческого союза Университета Флориды. В результате погибли два сотрудника учебного заведения, шестеро студентов получили ранения. Стрелка ранили и арестовали полицейские. Мотивы его поступка неясны. Известно, что перед тем как решиться на шутинг, Икнер долго советовался с чатом GPT. 

В ответ на начатое расследование против Open AI в апреле 2025 года, представитель компании заявил: "В данном случае ChatGPT давал фактические ответы на вопросы, содержащие информацию, которую можно широко найти в открытых источниках в интернете, и не поощрял и не продвигал незаконную или вредную деятельность".