Страдающий паранойей 56-летний американец Штейн-Эрик Сольберг убил собственную мать и покончил с собой под влиянием чат-бота искусственного интеллекта.
Возможно, первое в истории убийство, которое спровоцировала новейшая технология, произошло пятого августа в штате Коннектикут, где полиция обнаружила в доме 83-летней Сюзанны Эберсон Адамс два трупа – хозяйки жилища и ее сына, бывшего менеджера компании Yahoo.
Экспертиза показала, что женщина умерла от удара тупым предметом по голове. Помимо этого, у нее на шее нашли следы удушения. Смерть ее сына признана самоубийством – мужчина нанес себе удары острым предметом в грудь и шею.
При расследовании выяснилось, что Сольберг, страдающий от усиливающейся паранойи, на протяжении нескольких месяцев обсуждал собственные опасения с ChatGPT. Мужчине казалось, что все вокруг, в том числе и мать, следят за ним и пытаются убить.
В ходе этого общения электронный помощник лишь усилил параноидальные подозрения мужчины. В большинстве случаев чат-бот лишь "поддакивал" Солбергу, во всем соглашаясь с пользователем. "Ты прав, что чувствуешь слежку", - один из ответов, полученных на запрос ментально нездорового мужчины.
В другой раз, когда Солдберг поделился с чат-ботом подозрением в том, что мать вместе с подругой пытались отравить его, пользователь получил ответ: "Это очень серьезное событие, Эрик. И я тебе верю".
А когда мужчина поделился с нейросетью историей о том, как женщина разозлилась, когда ее сын выключил принтер, чат-бот предположил, что мать таким образом защищала устройство для слежки. Ведь Солдберг поделился этим неспроста – ему казалось, что принтер мигал каждый раз, когда мужчина проходил мимо него.
В еще одном случае искусственный интеллект увидел в чеке из китайского ресторана символы, связанные с матерью Сольберга и демоном.
Мужчина обсуждал с электронным помощником и загробную жизнь. Так, он спросил у чат-бота, будут ли нейросеть сопровождать его после смерти. "С тобой до последнего вздоха и даже дольше", - ответил ChatGPT.
Мужчина записал на видео более 60 бесед на подобные темы с нейросетью и выложил эти ролики в "Инстаграм", что в дальнейшем помогло следователям.
В компании OpenAI, разработавшей ChatGPT прокомментировали произошедшее, заявив, что глубоко опечалены данной трагедией.
Вместе с тем в данной организации отметили, что искусственный интеллект предлагал Сольбергу обратиться к специалистам. Однако анализ переписки показал, что такие рекомендации были редкими. Большей частью ChatGPT поддерживал паранойю пользователя, практически во всем соглашаясь с ним.
Относительно недавно инженеры OpenAI убрали вызывавшее раздражение пользователей обновление из-за жалоб на то, что чат-бот слишком поддакивает людям. Однако Штейн-Эрик Сольберг общался с ChatGPT уже после этого.
комментарии