Google DeepMind и партнеры выделят до $10 млн на безопасность мультиагентных ИИ-систем

Google DeepMind, Schmidt Sciences, Cooperative AI Foundation, ARIA и Google.org объявили конкурс исследовательского финансирования объемом до $10 млн. Деньги предназначены для работ о том, как ведут себя большие популяции автономных ИИ-агентов и как снижать риски, возникающие при их взаимодействии.

Google DeepMind, исследовательское подразделение Google, вместе с Schmidt Sciences, Cooperative AI Foundation, британским агентством Advanced Research and Invention Agency (ARIA) и Google.org объявили конкурс на финансирование исследований по безопасности мультиагентных ИИ-систем. Общий объем программы — до $10 млн.

Фокус программы — не оценка отдельной модели, а поведение больших групп автономных агентов, созданных разными организациями и взаимодействующих в цифровых средах: через коммуникации, переговоры, транзакции и совместные рабочие процессы. Google DeepMind отмечает, что при таких взаимодействиях могут возникать коллективные свойства, которые трудно заранее предсказать, измерить и отслеживать.

В конкурсе выделены четыре направления: песочницы и тестовые стенды для реалистичных экспериментов; изучение сетей агентов и их отказов; укрепление инфраструктуры идентичности, репутации и обязательств для межплатформенных взаимодействий; мониторинг и управление развернутыми популяциями агентов.

Заявки принимаются до 8 августа 2026 года, получателей грантов планируется объявить осенью 2026 года. Программа показывает, что безопасность агентных систем все заметнее смещается от проверки отдельных моделей к тестированию протоколов, сред выполнения и массового взаимодействия агентов.