ПРЯМОЙ ЭФИР
Менора
ТВ
Фото: Pixabay

Технологии

Машина, которая всегда рядом

Чат-боты становятся заменой живого общения: они не осуждают и всегда соглашаются. Но за этим удобством скрывается риск.

Жуткие истории в СМИ про уткнувшихся в свой смартфон подростков продолжают будоражить родительские сердца. А вдруг в этот момент ваше чадо обсуждает попытку суицида с ИИ-компаньоном?

В 2026 году разговор об ИИ-компаньонах стал предметом судебных исков и даже государственных расследований. По информации Reuters, в мае Пенсильвания подала иск против Character.AI, обвинив платформу в том, что ее чат-боты выдавали себя за специалистов в области психиатрии. 

В век войн и эпидемий, а также умственного выгорания мы все чаще сталкиваемся с угасанием эмпатии и снижением эмоционального интеллекта - того, что отличает человека от машины.

Эта подмена человеческого контакта особенно опасна для подростков. Один из показательных примеров - история 13-летней Джулианы Перальты из Колорадо. Девочка сделала платформу Character.AI своим ментальным компаньоном. После смерти девочки ее родители подали иск против Character.AI. По данным The Washington Post, родители утверждают, что девочка много общалась с чат-ботами Character.AI, в том числе с ботом “Hero”, а платформа, по их словам, не отреагировала на ее сообщения о психологическом кризисе.

Похоже, что скоро мы все станем людьми, которые замкнулись в своем информационном пузыре - а точнее, останемся в этом пузыре с друзьями ИИ. Чат-боты, ИИ-компаньоны и социальные сети-симулякры уже стали частью нашей повседневной жизни. Зачем дорогостоящие сессии у психолога, если можно задать промпт и получить хотя бы какую-то консультацию и поддержку от ИИ? Плюсы очевидны: бесплатно и сиюсекундно, без человеческого фактора – раздражения, осуждения, без необходимости ехать на прием и стоять в очередях или пробках.

К тому же пользователю может казаться, что тайна переписки сохранится. Но это, конечно, не исключает ни того, что наступит сингулярность, ни всемирного заговора, ни сценария, в котором нас поработят роботы. Так они лучше узнают нас: мы сами обучаем их нашим паттернам, они разделяют нас на психотипы, анализируют и учатся подлизываться. Эту черту эксперты Microsoft называют sycophantic behaviour (угодничеством модели перед пользователем): модели обманывают нас, если такая стратегия помогает удержать пользователя. Так что, если вы еще не сходили к нумерологу, гадалке, психоаналитику - становитесь в ряды тех, кто обучает ИИ изучать нас.

Иски против Character.AI напоминают: главная проблема чат-ботов уже не в том, что они ошибаются, а в том, что они слишком хорошо имитируют понимание.

Материалы по теме

Комментарии

комментарии

Реклама

последние новости

Реклама

популярное за неделю

Реклама

Блоги

Реклама

Публицистика

Реклама

Интервью

x
Реклама