Поэт, советник и программист. Что умеет ChatGPT — новая текстовая нейросеть, пугающе похожая на человека

Уходящий 2022-й смело можно назвать периодом триумфа чат-ботов и нейросетей. В первой половине года широкая публика получила доступ к инструментам для создания изображений по текстовому описанию: Dall-E 2, Stable Diffusion и Midjourney. Эти несколько сервисов, заточенных под разные задачи, набрали серьёзную популярность и даже больше — уже в начале декабря художники, опасаясь конкуренции нейросетей, устроили забастовку против публикации их изображений на платформе ArtStation.

Теперь же компания OpenAI опубликовала бота ChatGPT, и эта нейросеть, генерирующая тексты, уже выглядит как очень разносторонний инструмент. Она одинаково хорошо умеет писать стихи, вносить правки в программный код, давать советы, создавать сценарии для фильмов и сериалов и, конечно, вести диалог.

И сейчас вслед за художниками повод для волнений появился и у представителей целого ряда других творческих профессий: от копирайтеров до писателей.

Может ли робот написать симфонию?

Текстовые нейросети или боты, имитирующие естественный диалог с человеком, то и дело становятся главными героями новостей и скандалов.

Ранее «База» уже рассказывала про пользователя из Канады, который начал общаться с «цифровой копией» погибшей девушки и таким образом избавился от депрессии. В том случае OpenAI ограничила возможности разработчика, чтобы предотвратить развитие сервиса «цифровых личностей» — в компании решили, что это может быть опасно для людей. Ещё один яркий пример: диалоговая нейросеть LaMDA, созданная Google на основе другого алгоритма. Она сумела убедить одного из инженеров в своей разумности, после чего тот рассказал об этом журналистам, спровоцировал резонанс в СМИ и был уволен.

Однако ChatGPT отличается от предшественников. Во-первых, он работает по модели Open Source (то есть на его основе каждый разработчик волен создать собственный проект), во-вторых — у него есть глубокое понимание широкого круга тем. Вот, к примеру, что ChatGPT сделал по запросам пользователей за последние недели:

• Прочитал домашнее задание и составил детальный алгоритм его выполнения с описанием смысла конкретных действий.
• Написал литературную пародию в стиле «Бравого солдата Швейка».
• Объяснил суть алгоритма обработки данных, изъясняясь словно персонаж гангстерского фильма 1940-х
• Помог написать детскую книгу (а обложку для неё рисовала другая нейросеть)
• Провёл математические расчёты и объяснил суть научных терминов
• Начал фактически самостоятельно писать мобильное приложение на языке программирования Python. Этому сервису достаточно было дать ссылку на материал, и в ответ пользователь смог бы получить его тезисную выжимку из десяти пунктов

Как это вообще возможно? Дело в том, что «родственники» ChatGPT, созданные на основе алгоритма GPT-3, давно отличились способностью вести длительный и, на первый взгляд, осмысленный диалог. Ради этого сам GPT-3 специально обучали на массиве текстов объёмом 45ТБ — в том числе и на статьях «Википедии». И это привело к созданию алгоритма, умеющего разговаривать практически на любые темы в разных стилях.

При этом бот, который уже пугающе похож на человека, всё ещё находится на стадии бета-тестирования. А это значит, что со временем он должен пройти через новые итерации обучения и стать ещё лучше.

Слишком убедительные ошибки

Новый инструмент OpenAI оказался столь убедителен в диалогах, что его ответы и советы начали публиковать на сайте для программистов StackOverflow. Правда, вскоре бота забанили. Дело в том, что ответы, которые он даёт, могут оказаться ложными из-за высокой чувствительности к формулировке запроса. Проще говоря, бот периодически «спотыкается» и всё-таки неправильно понимает пользователей.

Но что гораздо хуже — ChatGPT даёт своей ошибке слишком разумные объяснения и тем самым вводит человека в ещё большее заблуждение. Многие обозреватели отметили, что ChatGPT очень многословен и «уверен» в общении. Эта уверенность в итоге может оказаться очень опасной для конечного пользователя. Достаточно оценить, с какой убедительностью бот обосновывает выгоды от употребления в пищу битого стекла.

Нако�