Расследование удара США по школе в Иране: ИИ выбирал тысячи целей, а предупреждение аналитика так и не дошло до командиров

По данным Los Angeles Times, расследование ракетного удара по начальной школе в иранском Минабе выявило системные сбои в инфраструктуре целеуказания армии США: предупреждение аналитика, поданное ещё в 2019 году, не попало в основную базу целей. Удар пришёлся на кампанию, в которой военные США, по сообщениям, впервые массово применяли ИИ для подбора целей.

Расследование ракетного удара по школе в иранском городе Минаб, в результате которого, по оценкам, погибли около 120 детей, вскрыло серьёзные пробелы в системе целеуказания армии США. Как сообщает The Decoder со ссылкой на материал Los Angeles Times, ключевыми проблемами стали непрочитанная пометка аналитика разведки и базы данных, которые не были связаны между собой. Удар был нанесён в конце февраля.

За несколько лет до удара аналитик заметил изменения на объекте в Минабе на юго-востоке Ирана. Ранее США классифицировали это здание как военно-морской объект иранских вооружённых сил, однако к тому моменту в нём разместилась начальная школа. По данным LA Times, аналитик зафиксировал изменения ещё в 2019 году с помощью одного из цифровых разведывательных инструментов. Проблема в том, что этот инструмент не был связан с официальной базой целей, которую военные США используют для подготовки ударов, и информация так и не дошла до командиров. Объект пересматривался несколько раз, но запись в базе никто не обновил. По данным New York Times, использовались снимки семилетней давности.

По сведениям LA Times, как минимум две разведывательные базы данных никогда не подключались к авторитетной базе целей. В центре системы — база MIDB, созданная ещё в 1980-х годах и до сих пор во многом опирающаяся на ручной ввод данных. Её должна была заменить автоматизированная система MARS, но переход отстаёт от графика на годы. Управление по подотчётности правительства США (GAO) указывало на давние недостатки этой системы ещё в 2020 году.

Старая инфраструктура резко контрастирует со скоростью применения ИИ. Удар пришёлся на кампанию, в которой военные США, по сообщениям, впервые в таком масштабе использовали искусственный интеллект для отбора целей: модель Claude компании Anthropic была встроена в систему Maven Smart System компании Palantir и в первый день предложила около 1000 целей. По данным Wall Street Journal, в первые дни было поражено более 3000 целей, при этом механизмы человеческого контроля над решениями о применении смертоносной силы оставались недофинансированными.

Согласно действующей доктрине целеуказания США, решение о приоритизации и нанесении удара принимает командир, который обязан отличать военные объекты от гражданских. Существует также необязательная процедура проверки целей (target vetting), оценивающая достоверность исходных разведданных. Бывший высокопоставленный сотрудник разведки заявил LA Times, что для командира было бы немыслимо пропустить этот шаг при ударах в первый день новой кампании. Центральное командование (Centcom) пересматривало цели перед операциями против Ирана, однако была ли запущена эта необязательная процедура, остаётся неясным.

Одна из самых резких оценок в отчёте принадлежит отставному трёхзвёздному генералу ВВС Джеку Шанахану — первому директору Объединённого центра искусственного интеллекта, созданного в 2018 году, и бывшему руководителю программы Project Maven, то есть одному из архитекторов внедрения ИИ в вооружённых силах США. Шанахан заявил LA Times, что у командования нет оправдания тому, что оно не проверило достоверность своих разведданных. По его словам, само целеуказание превратилось в угасающую профессиональную область, которая деградировала за два десятилетия, пока военные были сосредоточены на борьбе с терроризмом.

Часть экспертов рассчитывает, что объединение цифровых систем и добавление ИИ помогут сократить число ошибок: автоматическая сверка с общедоступными сервисами вроде Google Maps могла бы помечать аномалии для проверки человеком. После выхода отчёта Пентагон объявил инициативу по агентному ИИ. Разведывательное управление Министерства обороны США (DIA), отвечающее за MIDB и MARS, в ответ на запрос Bloomberg прямо не прокомментировало ни выявленные недостатки, ни задержку с переходом.