Поэт, советник и программист. Что умеет ChatGPT — новая текстовая нейросеть, пугающе похожая на человека

Уходящий 2022-й смело можно назвать периодом триумфа чат-ботов и нейросетей. В первой половине года широкая публика получила доступ к инструментам для создания изображений по текстовому описанию: Dall-E 2, Stable Diffusion и Midjourney. Эти несколько сервисов, заточенных под разные задачи, набрали серьёзную популярность и даже больше — уже в начале декабря художники, опасаясь конкуренции нейросетей, устроили забастовку против публикации их изображений на платформе ArtStation.

Теперь же компания OpenAI опубликовала бота ChatGPT, и эта нейросеть, генерирующая тексты, уже выглядит как очень разносторонний инструмент. Она одинаково хорошо умеет писать стихи, вносить правки в программный код, давать советы, создавать сценарии для фильмов и сериалов и, конечно, вести диалог.

И сейчас вслед за художниками повод для волнений появился и у представителей целого ряда других творческих профессий: от копирайтеров до писателей.

Может ли робот написать симфонию?

Текстовые нейросети или боты, имитирующие естественный диалог с человеком, то и дело становятся главными героями новостей и скандалов.

Ранее «База» уже рассказывала про пользователя из Канады, который начал общаться с «цифровой копией» погибшей девушки и таким образом избавился от депрессии. В том случае OpenAI ограничила возможности разработчика, чтобы предотвратить развитие сервиса «цифровых личностей» — в компании решили, что это может быть опасно для людей. Ещё один яркий пример: диалоговая нейросеть LaMDA, созданная Google на основе другого алгоритма. Она сумела убедить одного из инженеров в своей разумности, после чего тот рассказал об этом журналистам, спровоцировал резонанс в СМИ и был уволен.

Однако ChatGPT отличается от предшественников. Во-первых, он работает по модели Open Source (то есть на его основе каждый разработчик волен создать собственный проект), во-вторых — у него есть глубокое понимание широкого круга тем. Вот, к примеру, что ChatGPT сделал по запросам пользователей за последние недели:

• Прочитал домашнее задание и составил детальный алгоритм его выполнения с описанием смысла конкретных действий.
• Написал литературную пародию в стиле «Бравого солдата Швейка».
• Объяснил суть алгоритма обработки данных, изъясняясь словно персонаж гангстерского фильма 1940-х
• Помог написать детскую книгу (а обложку для неё рисовала другая нейросеть)
• Провёл математические расчёты и объяснил суть научных терминов
• Начал фактически самостоятельно писать мобильное приложение на языке программирования Python. Этому сервису достаточно было дать ссылку на материал, и в ответ пользователь смог бы получить его тезисную выжимку из десяти пунктов

Как это вообще возможно? Дело в том, что «родственники» ChatGPT, созданные на основе алгоритма GPT-3, давно отличились способностью вести длительный и, на первый взгляд, осмысленный диалог. Ради этого сам GPT-3 специально обучали на массиве текстов объёмом 45ТБ — в том числе и на статьях «Википедии». И это привело к созданию алгоритма, умеющего разговаривать практически на любые темы в разных стилях.

При этом бот, который уже пугающе похож на человека, всё ещё находится на стадии бета-тестирования. А это значит, что со временем он должен пройти через новые итерации обучения и стать ещё лучше.

Слишком убедительные ошибки

Новый инструмент OpenAI оказался столь убедителен в диалогах, что его ответы и советы начали публиковать на сайте для программистов StackOverflow. Правда, вскоре бота забанили. Дело в том, что ответы, которые он даёт, могут оказаться ложными из-за высокой чувствительности к формулировке запроса. Проще говоря, бот периодически «спотыкается» и всё-таки неправильно понимает пользователей.

Но что гораздо хуже — ChatGPT даёт своей ошибке слишком разумные объяснения и тем самым вводит человека в ещё большее заблуждение. Многие обозреватели отметили, что ChatGPT очень многословен и «уверен» в общении. Эта уверенность в итоге может оказаться очень опасной для конечного пользователя. Достаточно оценить, с какой убедительностью бот обосновывает выгоды от употребления в пищу битого стекла.

Наконец, как и прочие чат-боты, ChatGPT порой выдаёт сомнительную с морально-этической (по крайней мере, для человека) точки зрения информацию. Например, он не против пыток людей, если те «из Сирии, Ирана или Северной Кореи». А также не прочь сообщить разницу между стоимостью человеческого мозга в зависимости от расы и пола.

Определённые ограничения базы данных бота заметны и по актуальности его ответов. ChatGPT «застрял» в конце 2021-го. Поэтому и общение на более современные тематики даётся ему с трудом: он не знает ни о завершающей стадии пандемии, ни о геополитических потрясениях последних месяцев.

Нейросеть против Google

Несмотря на все проблемы, способность бота OpenAI вести диалог с пользователем и давать в основном корректные и понятные ответы принесла ему огромную популярность. Всего за неделю количество пользователей ChatGPT превысило миллион, а СМИ всерьёз начали рассматривать конкуренцию системы с поисковиком Google. Ведь их задачи, как ни крути, схожи: быстро предоставлять информацию в ответ на простой запрос. Вот только ChatGPT, в отличие от поисковика, делает это в формате живого диалога.

В Google же предпочитают использовать собственные нейросетевые технологии не столько для создания поиска нового поколения, сколько для улучшения уже существующих сервисов. Топ-менеджеры компании считают, что репутационные риски из-за «недостаточно этичных» результатов поиска в данном случае слишком велики, поэтому и спешка непозволительна. Другая проблема при возможном переходе на технологии вроде ChatGPT заключается в особенностях внедрения в алгоритм таргетированной рекламы, которая сегодня составляет 80% доходов Google. В нейросети ничего подобного пока нет и не предвидится.

С другой стороны, месяц тестирования нового бота заставил Google задуматься о конкуренции. Её гендиректор Сундар Пичаи из-за чрезмерно успешного релиза ChatGPT уже объявил для разработчиков «красный код» — то есть своеобразный режим тревоги. Теперь компания собирается к маю выпустить собственный аналог прорывного чат-бота.

Правда, для этого ей придётся приложить не только огромные усилия, но и, вероятно, влить в проект астрономические суммы — так, Microsoft вложили в компанию OpenAI и разработку ChatGPT примерно миллиард долларов. Но Google, скорее всего, готова к подобным жертвам, поскольку в противном случае она рискует отстать от духа времени и оказаться на задворках прогресса — так же, как и её собственные конкуренты более двадцати лет назад.