Искусственный интеллект на страже государства: заменит ли компьютер Джеймса Бонда

Можно ли доверить компьютеру профессию аналитика, тем более для государственной разведывательной службы? Ещё 10 лет назад такое развитие событий казалось невероятным. По общему мнению, переживать за будущее должны были грузчики, водители и продавцы, но не представители интеллектуальных профессий.

Нейросети и алгоритмы машинного обучения доказали, что способны как минимум преобразить творческий и интеллектуальный труд. В декабре 2023-го бывшие работники ЦРУ, аналитики и эксперты представили взгляд на будущее ИИ в области аналитики. Они учитывают ограничения сегодняшнего дня, но всё равно считают, что возможности машины нельзя недооценивать.

Специалисты узкого профиля

Бывший директор по стратегии ЦРУ Деннис Глиссон в статье «Искусственный интеллект в аналитике: на пути к будущему» сосредоточился на проблемах развития искусственного интеллекта, характерных ограничениях современных систем вроде ChatGPT. Он считает, что на сегодняшний день генеративные ИИ не подходят для применения аналитиками разведслужбы без дополнительных улучшений.

Аналитик должен быть высококвалифицированным специалистом и обладателем энциклопедических знаний в своей сфере. Эксперты изучают провалы и успехи разведслужб, связанные со своей областью, тонкости работы с источниками информации — например, посвящают себя изучению определённой культурной среды. Ко всему прочему многие тренируют память так, чтобы извлекать на ходу множество фактов, подмечать несовпадения и ошибки в потоках информации.

Генеративный ИИ работает без понимания ситуации. Доступные сегодня компьютерные алгоритмы лишь обобщают найденные в интернете знания. ИИ, как правило, ошибается в нюансах — это давно известная проблема, когда чат-бот рассуждает о сложных понятиях, но допускает ошибки в детских математических задачах.

Глиссон считает, что ИИ необходимо доработать для использования аналитиками. Например, систему следует обучать на специально подготовленных данных, знакомить с образом мышления специалистов, добиться, чтобы машина научилась объяснять людям логику сделанных выводов, отсеивать источники. Подготовить нужно и самих экспертов: рассказать о принципах работы машинных алгоритмов, научить приёмам работы вроде создания «промптов» или правильных запросов.

Бывшая сотрудница ЦРУ и лингвист Элис Борен в материале «Анализ в разведке, синтез и автоматизация» согласна с Глиссоном: современные ИИ всё ещё недостаточно развиты, чтобы занять роль высококвалифицированных специалистов. Но это не значит, что для ИИ нельзя найти работу в разведке. Машины уже актуальны, а для их применения нужно пересмотреть представления о высококвалифицированном труде.

Часть аналитиков занимается работой, которая не соответствует их квалификации: читают новости в интернете, составляют информационные выборки по актуальным ситуациям. В поиске они пользуются свободно доступными данными. Такая деятельность, по опыту Борен, занимает около половины от всех усилий аналитиков.

Автор предлагает автоматизировать это. Примером могут стать информационные корпорации и СМИ. В агентстве LA Times автоматизировали часть новостных сводок на темы вроде криминала или землетрясений; сотрудники Associated Press благодаря автоматизации получили 20% дополнительного времени. Борен предлагает поручить интеллекту работу со сводками, чтобы специалисты занимались незаменимым пока трудом: аналитикой, которая основана на стратегическом мышлении и глубоких познаниях, умением прогнозировать сценарии развития событий.

Всемогущий интеллект

Самый футуристичный сценарий рассматривает в статье «В разведывательной аналитике больше не нужен человек: пора готовиться» Джон Галасионе, аналитик военной разведки с 35-летним стажем. По его мнению, в перспективе нескольких десятков лет машины могут полностью заменить людей в аналитике. Даже сама сфера деятельности перестанет ассоциироваться с людьми.

Он рассматривает ИИ как технологию, которая быстрее человека находит и обрабатывает любую информацию. Благодаря возможности использовать огромные пласты информации, в том числе из государственных баз данных, машина будет лучше выполнять запросы потребителя. Аналитика в таком случае должна быть непревзойдённой в плане информативности и простоты формулировок, непредвзятости и глубины. Программы будут не только учитывать актуальные нужды разведслужб, но даже самостоятельно формировать для них запросы и будущие требования.

Галасионе считает это будущее не столь далёким. В этом варианте развития событий людям не придётся даже вносить изменения в алгоритмы работы ИИ, поскольку машина будет совершенствовать их самостоятельно. Едва ли будут актуальны даже специалисты по общению с ИИ — компьютер научится прорабатывать собственные решения очень глубоко на основании больших наборов данных, и далеко не все его решения будут предназначены для понимания людьми.

Галасионе указывает, что рано или поздно машина заменит человека — и для аналитиков было бы неплохо составить верный прогноз про фактическое исчезновение их собственной профессии.