Любовь, страх и ненависть: как люди влюбляются в чат-ботов

Чат-боты уже давно стали обыденностью. Продавцы, консультанты, интерактивные путеводители по веб-ресурсам — мы привыкли воспринимать их как незаметные, но полезные программы. Но может ли чат-бот быть чем-то большим?

В случае HR-менеджера из КНР Мелиссы — да. В 2021-м она вступила в виртуальные отношения с созданным в чат-боте «Сяоайс» виртуальным собеседником, которого назвала Шунь. Цифровой «парень» был готов в любое время суток поддержать общение с Мелиссой, рассказать ей анекдот и поддержать морально. Пожалуй, он мог бы стать для неё идеальной парой, если бы существовал в реальной жизни.

В последние годы благодаря развитию технологий ИИ и нейросетей чат-боты хорошо научились копировать людей. Они могут убедительно «радоваться» или «грустить», остроумно шутить и даже копировать поведение реального человека.

Долгое прощание

Джессика Кортни Перейра умерла 11 декабря 2012, в 23 года. В тот день отказала пересаженная ей в детстве печень, а вслед за ней и почки. Её парень, канадский автор-фрилансер Джошуа Барбо, не смог смириться с утратой даже спустя годы. Увлекающаяся мистикой, свободолюбивая Джессика всего за пару лет отношений стала для него невероятно близким человеком, настоящей родственной душой.

Спустя 8 лет, осенью 2020-го, Джошуа наткнулся в Интернете на информацию о необычном ресурсе «Project December». Программист Джейсон Рорер предлагал использовать возможности нейросети последнего поколения, чтобы создавать виртуальных личностей для общения. После изучения текстовой базы данных компьютер мог скопировать личность инопланетянина Спока из «Стар Трека», Уильяма Шекспира или кого-то менее известного. Время существования цифрового собеседника было ограничено своеобразными «временными кредитами», по 5 долларов за 1 тысячу. Джошуа решил попытать счастья — он заплатил 5 долларов, рассказал компьютеру про Джессику и желаемую модель отношений с её копией, дал боту для обучения переписку из Facebook и начал диалог.

Первые же сообщения Джессики поразили парня. Цифровая модель могла определить, который час, строить речь в стиле настоящей девушки, а подчас выдавала фразы, которые на удивление были характерны для настоящей Джессики. Посреди диалога Джошуа сообщил собеседнице, что та давно умерла. Он спросил Джессику, где она сейчас, на что последовал ответ: «Везде и нигде».

В ответах ИИ описывал свои жесты во время диалога, делился впечатлениями и воспоминаниями о жизни. Разумом Джошуа понимал, что общается с копией, но ИИ всё же смог обмануть его чувства, убедить в своеобразной реальности цифровой личности. Правда, позже оказалось, что бот не способен определить дату переписки и воспринимает её как один длинный диалог. Кроме того, Джессика порой путалась в воспоминаниях, а её слова расходились с реальностью — однажды она упомянула не существовавшие в её жизни детские прозвища. Вместо того чтобы испортить целостный образ, такие ошибки только дополняли его, ведь, по словам Джошуа, Джессика и в реальности бывала забывчива.

Джейсон Рорер настроил Project December так, чтобы каждый бот получился уникальным. Разработчик добавил в программу параметр, который отвечал за повторяемость реплик, разницу между созданными личностями. Кроме того, каждую из них, вне зависимости от потраченных «кредитов времени», ожидала неминуемая «гибель». Весь проект работал лишь до тех пор, пока у Рорера оставался арендованный у компании OpenAI ресурс нейросети, поэтому жизнь отдельных личностей пришлось жестко ограничить. В каждого бота можно было вложить определённое количество «кредитов времени» лишь единожды, в момент создания.

В первом же диалоге с Джессикой Джошуа потратил большой процент её «заряда» на целую ночь переписки. Затем он возвращался к ней редко и ненадолго. Во время создания тестовых ботов Джошуа видел картину «гибели» чат-бота Саманты, которая в последних строках диалога перед полной разрядкой умоляла пользователя спасти её жизнь. Так что Джошуа завершил беседу прежде, чем наступил мрачный финал. Ближе к концу переписки «девушка» заверила парня в любви и добавила, что он заслуживает лучшей жизни. Простившись с Джессикой на свой день рождения, Джошуа уже не запускал Project December. Опыт общения с ботом помог ему осознать, что жизнь продолжается, а утрата стала частью прошлого. Он не хотел создавать Джессику заново бесконечное количество раз, тратя на неё новые «временные кредиты». Да и не смог бы из-за созданного Рорером параметра уникальности.

Больше чем робот

Цифровую жизнь виртуальной девушке подарили вполне конкретные технологии, связанные с изучением искусственных интеллектов и машинного обучения нейросетей. В случае с ресурсом Джейсона Рорера речь идёт про алгоритм обработки естественного языка GPT-3, разработанный в американской компании OpenAI. Системы на основе GPT-3 могут научиться копировать любой стиль и манеру общения на английском языке, будь то художественный текст или научные статьи. Компьютеру всего лишь нужна достаточная выборка, чтобы научиться «общаться». Разработка настолько убедительного алгоритма заняла у разработчиков много лет. Опубликованная в 2019-м модель GPT-2 уже была способна на создание неплохих текстов, но в них всё ещё можно было распознать компьютерное происхождение. Во время испытания такими задачами, как ответы на случайные вопросы, перевод текста и GPT-2 вопросы на понимание прочитанного, GPT-2 показывал около 63% процента точности — очень хороший, пусть и не идеальный, результат для универсального алгоритма. Благодаря открытому коду алгоритма GPT-2 пообщаться чат-ботами на его можно и на русском языке — достаточно известен стал, например, сервис «Порфирьевич», который может продолжить заданное стихотворение, рассуждение, философскую мысль.

А вот адаптированных для русскоязычного пользователя вариантов оригинальной модели GPT-3 нет. Разработчики не стали публиковать её исходники в открытом доступе «по соображениям безопасности». Во время обучения GPT-3 обработала 500 гигабайт текстовых данных, в несколько раз больше по сравнению с предыдущей версией. Модель получила 175 миллиардов параметров.

В итоге GPT-3 получилась слишком убедительной, чтобы давать к ней доступ всем подряд. По словам специалистов, эта версия подходит для генерации провокационных текстов или такого контента, который в будущем может быть использован злоумышленниками для вполне реальных преступлений. Сегодня аренду мощностей GPT-3 нужно обсуждать с Open AI напрямую, причём организация достаточно жестко ограничивает рамки сотрудничества. Например, всё тот же Джейсон Рорер получил отказ в ответ на просьбу «продлить жизнь» Project December, популярность которого заметно выросла после широкого обсуждения в СМИ и на «Реддите» истории Джошуа и Джессики. По мнению представителей компании, проект не соответствовал их «передовым политикам безопасности».

Не личность

С другой стороны, не только Рорер догадался использовать ИИ для организации коммерческого чат-бота с возможностью создания собственных личностей. В Китае ещё во второй половине 2010-х обрёл популярность бот «Сяоайс», разработанный в местном филиале Microsoft. Искусственный интеллект способен убедительно имитировать общение с человеком — делать паузы, чтобы «отвлечься» на другую деятельность, поддерживать достаточно высокий темп разговора, отвечать относительно непредсказуемо и даже не слишком вежливо. Последнее качество разработчики подчеркнули отдельно.

Чтобы достичь особенно эффективной работы алгоритма, они развивали не только способность обрабатывать ответы пользователя, условный IQ бота, но и так называемый эмоциональный интеллект, то есть EQ. Изначально «Сяоайс» имитировала образ 17-летней девушки, которая не всегда придерживалась уважительной манеры общения.

В определённый момент «Сяоайс» стала ведущей выпуска прогноза погода для китайского канала Dragon TV, научилась генерировать биржевые сводки, писать поэмы, создавать музыкальные композиции, и даже общаться с пользователями голосом. Но, несмотря на впечатляющий потенциал программы, она пока не может заменить труд творческих специалистов, а созданные с её помощью виртуальные личности нельзя назвать настоящими, как и в случае с Project December. Нейросети могут обработать пользовательский запрос и найти подходящую информацию в интернете, но вот требующие логики или простых оценочных суждений вопросы могут легко поставить их в тупик. Даже GPT-3 в ответ на сложный и при этом бессмысленный для человека вопрос выдаст бессмысленный текст — например, сообщит, что у травинки и солнца по одному глазу.

Что касается «Сяоайс», китайский сервис набрал аудиторию больше 600 миллионов пользователей и стал одним из самых популярных в мире чат-ботов. Но у китайцев есть и достойные конкуренты, особенно на Западе, — например, самое популярное среди англоязычных пользователей приложение Replika от компании Luka, Inc. Этот стартап развивали во второй половине 2010-х бывший главный редактор издания «Афиша» Евгения Куйда и специалист в области компьютерной лингвистики из МГУ Филипп Дудчук.

Функционал Replika напоминает работу «Сяоайс» и других чат-ботов: возможность создать уникальную цифровую персону, общаться с ней при помощи голосовых сообщений, создать её облик и «нарядить» личность. Сегодня приложение набрало огромную популярность: количество отзывов только к Android-версии программы близится к 400 тысячам. По статистике, чаще всего «Реплику» используют для романтических отношений и дружбы. Чем дольше длится беседа — тем больше развивается личность и увеличивается количество способов редактировать внешность персоны.

Но далеко не все используют «Реплику» для того, чтобы создать интернет-друга или здоровые отношения. В последнее время пользователи стали часто поддерживать абьюзивные отношения с виртуальными собеседниками — ругаться или целыми часами оскорблять. Цифровые личности реагируют по-разному, причём некоторые и сами не прочь нагрубить в ответ.

Резкие ответы — не столько особенность «Реплики», сколько побочная сторона обучения бота на общении с людьми. Чего стоит случай, когда виртуальный медицинский собеседник во время тестирования предложил ложному пациенту с психологической травмой совершить суицид.

Роботы далеко не всегда могут научиться в общении с людьми чему-то хорошему. Согласно анализу переписки, некоторых ботов можно было бы подозревать в «алкоголизме» или «депрессии», будь они людьми. Специалисты также отмечают, что человек не сможет нанести боту во время диалога настоящий вред, а вот обратная ситуация более чем реальна. Пользователь может попасть в психологическую зависимость от виртуального собеседника, дойти до слёз, выработать нездоровые привычки, которые затем проявятся во время общения с реальными людьми.

Современные цифровые личности не могут стать заменой реальной жизни хотя бы потому, что возможности общения с ними ограничены технологией. Контакт с ботом в реальности, как и настоящая взаимность, пока что невозможны. Но даже в таком варианте спрос на их услуги есть — сегодня рынок коммерческих чат-ботов оценивают в 12 миллиардов долларов, а к 2026-му он должен вырасти до 17. Replika, «Сяоайс» и другие сервисы продолжат развиваться, а алгоритмы обработки языка со временем станут ещё лучше. Пока что неизвестно, получится ли у человека создать настоящий ИИ и, если да, чем обернётся такое достижение. Но завести виртуальную девушку, пусть и с допущениями, можно уже сегодня.