Чат-бот перепутал груз на судне, а самолеты уже были в воздухе
Американские военные готовили операцию по перехвату китайского судна на Ближнем Востоке. Поводом стал аналитический доклад, в котором говорилось о перевозке компонентов для ядерной программы. Доклад оказался ложным.
О деталях сообщил CNN источник в военных структурах. Инцидент произошел весной, когда США вели активные боевые действия против Ирана.
«Доклад был полностью ложным. Но он также чуть не спровоцировал войну», — сказал источник.
Сценарий разворачивался стремительно. Вооруженный отряд должен был подняться на борт корабля. Военные самолеты уже поднялись в воздух. До старта операции оставались считаные часы.
Как вычислили подлог
Остановило все не сработавшее оружие и не дипломатия. Чиновники решили перепроверить сам отчет. И выяснили: специалист готовил документ с помощью искусственного интеллекта.
Чат-бот объединил сведения из открытых источников с данными секретной радиоэлектронной разведки. На выходе получился вывод о компонентах для ядерной программы. Характер груза система определила неверно.
То есть два потока данных — публичный и закрытый — были сведены в один анализ без должной проверки. Именно на стыке и возникла ошибка.
Это не первый случай, когда генеративный инструмент оказывается в центре военно-политической истории. Ранее Дональд Трамп разместил в своей соцсети Truth Social ролики, созданные искусственным интеллектом. На видео были показаны ракетные удары по иранскому острову Харк. Американские военные об атаке на этот объект не сообщали.
Для Пентагона и разведсообщества США эпизод означает одно: процедуры верификации аналитики придется пересматривать. Если отчет, собранный машиной, попадает на стол командира без пометки о том, как он сделан, цена ошибки измеряется не репутацией, а жизнями.
В ближайшие месяцы стоит ждать ужесточения правил использования ИИ в разведке и целеполагании. Вопрос лишь в том, успеют ли регламенты догнать скорость, с которой такие инструменты внедряются в реальную работу.
Официальной реакции Пентагона и Белого дома на публикацию CNN пока не последовало.