Стартап по созданию саморазвивающегося ИИ привлёк $650 млн

Основатель You.com Ричард Сохер вывел из скрытого режима новый AI-стартап Recursive Superintelligence. Компания из Сан-Франциско привлекла $650 млн и работает над моделью, способной рекурсивно улучшать саму себя без участия человека.

Ричард Сохер, известный как основатель You.com и участник работ, связанных с ImageNet, представил новый стартап Recursive Superintelligence. Компания базируется в Сан-Франциско и вышла из скрытого режима с финансированием в размере $650 млн.

К проекту присоединились заметные исследователи и предприниматели в сфере ИИ, включая Питера Норвига и сооснователя Cresta Тима Ши. Команда намерена создать модель с рекурсивным самоулучшением: такая система должна самостоятельно находить собственные слабые места и перестраивать себя для их устранения без участия человека.

Сохер объясняет подход Recursive Superintelligence через концепцию open-endedness — открытого, продолжающегося процесса развития. По его словам, простая автоматизация исследований, когда ИИ помогает улучшать отдельную систему или задачу, ещё не является рекурсивным самоулучшением. Цель компании — автоматизировать полный цикл появления исследовательских идей: от формулирования до реализации и проверки.

Сначала такой подход планируется применять к исследованиям в области ИИ, затем — к другим исследовательским направлениям, включая физические области. Особенно важным Сохер считает сценарий, при котором ИИ работает над собственными ограничениями и формирует своего рода понимание своих недостатков.

Среди участников команды также упоминается Тим Роктэшель, один из сооснователей Recursive Superintelligence. Ранее он руководил направлениями open-endedness и self-improvement в Google DeepMind и работал над мировой моделью Genie 3. В качестве примера открытого подхода Сохер приводит системы, которые могут создавать интерактивные среды по заданной концепции, миру или агенту.

Ещё один пример, который приводит Сохер, — rainbow teaming. В такой схеме один ИИ проверяет другой, пытаясь заставить его выдать запрещённые или опасные ответы, после чего системы могут многократно взаимодействовать и адаптироваться друг к другу. По словам Сохера, подобные методы помогают постепенно повышать безопасность моделей.

Сохер не считает Recursive Superintelligence просто исследовательской лабораторией нового типа. Он говорит, что компания должна стать жизнеспособным бизнесом и выпускать продукты, которые будут полезны пользователям и окажут положительное влияние. По его словам, ждать первых продуктов придётся «кварталы, а не годы».

Отдельно Сохер отметил роль вычислительных ресурсов. Он считает, что в будущем одним из ключевых вопросов станет распределение вычислительной мощности между задачами: например, какие болезни или вирусы человечество будет пытаться решить в первую очередь и сколько вычислений готово на это выделить.