CNN: военные США едва не провели операцию против судна КНР из-за ошибки ИИ

НЬЮ-ЙОРК, 18 сентября. /ТАСС/. Военные США весной едва не перехватили китайское судно на Ближнем Востоке после того, как созданный с помощью искусственного интеллекта разведывательный отчет ложно указал, что оно перевозило компоненты ядерной оружейной программы. Об этом сообщает телеканал CNN со ссылкой на источники.

По данным телеканала, военнослужащие начали готовить операцию по перехвату судна, а самолеты ВС уже находились в воздухе. Лишь незадолго до начала операции военные тщательно проверили отчет и выяснили, что использованный аналитиком чат-бот неправильно определил перевозимый судном груз. CNN не удалось установить, что именно находилось на борту.

"Отчет был полностью ложным", - заявил один из источников телеканала, добавив, что произошедшее "едва не привело к войне". CNN отмечает, что любая американская операция против китайского судна могла перерасти в вооруженный конфликт между США и Китаем. Как выяснил телеканал, аналитик запросил у чат-бота анализ разведывательной информации о судовом манифесте, поступившей от Тихоокеанского командования специальных операций США. Система объединила сведения из открытых источников с секретными данными радиоэлектронной разведки и пришла к ошибочному выводу о характере груза. После этого аналитик вновь использовал ИИ, чтобы оформить выводы в виде стандартного разведывательного отчета, которому обычно доверяют американские военные, и распространил документ.

CNN отмечает, что американские военные и разведывательное сообщество все активнее внедряют ИИ, в том числе для анализа разведданных и выбора целей для ударов. При этом различные подразделения используют разные системы и стандарты безопасности, а единых правил проверки сгенерированной ИИ информации нет. Один из источников телеканала заявил, что применение ИИ при выборе целей быстро расширяется, однако четких инструкций о том, как участие человека должно предотвращать гибель гражданских или огонь по своим, пока не существует.