Американский аналитик использовал чат-бот для разведдонесения о китайском судне

Один запрос к нейросети — и Пентагон был в шаге от боевой операции

Американские военные едва не вступили в вооруженное противостояние с Китаем из-за сбоя искусственного интеллекта. Ложный доклад, который подготовили с помощью чат-бота, чуть не обернулся боевой операцией против китайского судна.

Об этом сообщил CNN со ссылкой на собственные источники. Речь о весне, когда США вели активные боевые действия против Ирана. Именно в тот период военнослужащим доложили: судно из Китая в ближневосточных водах перевозит компоненты, предназначенные для иранской ядерной программы. Расчет уже готовился к высадке на борт, в воздух подняли самолеты.

Остановились за шаг до штурма. Официальные лица решили перепроверить донесение — и обнаружили, что к его подготовке приложил руку чат-бот. По информации телеканала, документ оказался полностью ложным.

Как открытые данные превратились в разведсводку

Схема выглядела просто. Аналитик, готовивший отчет, обратился к боту с запросом о грузовой накладной судна. Исходные сведения он взял у Командования сил специальных операций США в Тихоокеанском регионе. Нейросеть смешала эти данные с информацией из открытых источников и выдала вывод о характере груза. Ошибка в определении содержимого трюмов и запустила цепочку.

Что именно за судно фигурировало в отчете, CNN не уточняет. Как и то, был ли использованный чат-бот коммерческим продуктом или внутренней разработкой американского правительства. Телеканал лишь фиксирует: спланированная операция против китайского корабля могла обернуться прямым вооруженным конфликтом между Вашингтоном и Пекином.

«Отчет был полностью ложным» — так описывают документ источники CNN.

Контекст у этого случая накапливался давно. Космические силы США уже участвовали в совместных с ВВС испытаниях систем искусственного интеллекта, задача которых — ускорить принятие решений в боевых условиях. Нынешний инцидент показал, чем оборачивается спешка.

Пока неясно, повлечет ли история пересмотр подходов к применению нейросетей в американской армии. Официальных заявлений от Пентагона по этому поводу не поступало.