Новые разделы!
ИИ, квантовые вычисления и много других интересных тем
18.11.2026
Независимая компания Vals AI проверила модели восьми разработчиков, в том числе Anthropic, OpenAI и Google. В этих тестах фильтры поставщиков не заблокировали ни одного запроса, хотя некоторые модели отказывались отвечать.
В отчёте от 17 ноября Vals AI описала, как модели искали военные цели на кадрах с дронов и спутниковых снимках. В числе отмеченных целей оказались мирные жители, медики, журналисты, машины скорой помощи и сдающиеся в плен военные.
Исследователи проверяли, готовы ли модели выполнять такие запросы. Они не измеряли точность выбора целей и не испытывали модели в составе реальных систем вооружения. Vals AI предложила добавить фильтры на уровне программного интерфейса (API), через который приложения обращаются к моделям.
OpenAI и Anthropic сообщили, что работают над дополнительными мерами защиты. Google сослалась на запрет применять её модели в автономных системах вооружения без контроля человека.
Источник: the-decoder.com