Чат-боты становятся заменой живого общения: они не осуждают и всегда соглашаются. Но за этим удобством скрывается риск.
Жуткие истории из СМИ про уткнувшихся в свой смартфон подростков продолжают будоражить родительские сердца. А вдруг в этот момент ваше чадо обсуждает попытку суицида с ИИ-компаньоном - чат-ботом GPT?
В 2026 году разговор об ИИ-компаньонах стал предметом судебных исков и даже государственных расследований. По информации Reuters, в мае Пенсильвания подала иск против Character.AI, обвинив платформу в том, что ее чат-боты выдавали себя за специалистов в области психиатрии. Почти одновременно семья 19-летнего Сэма Нельсона подала иск против OpenAI, утверждая, что ChatGPT давал опасные советы человеку в "уязвимом состоянии".
В век войн и эпидемий, а также умственного выгорания мы все грешим угасанием эмпатии и снижением показателей эмоционального интеллекта, которые и являются нашим отличием от машины (компьютера, искусственного интеллекта). Один из таких примеров - история 13-летней Джулианы Перальты из Колорадо, о которой писала The Washington Post. Девочка сделала платформу Character.AI своим ментальным компаньоном. После смерти девочки ее родители подали иск против Character.AI. По сообщениям The Washington Post, родители утверждают, что девочка много общалась с чатботами Character.AI, в том числе с ботом “Hero”, а платформа, по их словам, не отреагировала на ее сообщения о психологическом кризисе.
Похоже, что скоро мы все станем людьми, которые замкнулись в своем информационном пузыре - а точнее, останемся в этом пузыре с друзьями ИИ. Использование ИИ: чат-ботов, ИИ-компаньонов в социальных сетях-симулякрах уже есть частью нашей повседневной жизни. Зачем дорогостоящие сессии у психолога, если вы можете задать промпт и получить мало мальскую консультацию и поддержку от ИИ. Плюсы: бесплатно и сиюсекундно, нет человеческого фактора – отсутствие раздражения от определенных черт человека, "нет" осуждению, никуда не надо ехать на прием и стоять в очередях/пробках.
К тому же вы лично можете сохранить тайну переписки – по крайней мере это факт на сегодняшний день, что не исключает всемирного заговора и того, что наступит сингулярность и нас поработят роботы. Потому что так они лучше нас узнаЮт, мы их обучаем паттернам, они разделяют нас на психотипы, анализируют и учатся подлизываться (эту черту эксперты в Майкрософт называют sycophantic behaviour) и обманывать для своей "выгоды" якобы нам угодить. Так что, если вы еще не сходили к нумерологу, гадалке, психоаналитику, вперед и с песней, становитесь в ряд тех, кто обучает ИИ нас изучить.
Ну, а иски против Character.AI напоминают: главная проблема чат-ботов уже не в том, что они могут ошибаться, а в том, что они слишком хорошо имитируют понимание.
комментарии