OpenAI сделала ставку на ИИ-исследователя «в тандеме» с людьми

OpenAI опубликовала план, в котором описывает переход к новому этапу развития компании и цель создать автоматизированного ИИ-исследователя. Компания рассчитывает, что к марту 2028 года значительная часть ее исследований будет выполняться ИИ-системами совместно с людьми, и предлагает международную координацию с возможностью замедлять разработку передовых моделей.

8 июня OpenAI опубликовала план нового этапа развития, подготовленный гендиректором Сэмом Альтманом и главным научным сотрудником Якубом Пахоцки. Компания формулирует три цели: создать «автоматизированного ИИ-исследователя», ускорить экономику за счет научного прогресса и продуктивности и дать каждому пользователю доступ к персональному AGI — искусственному общему интеллекту.

При этом OpenAI подчеркивает, что речь не должна идти о полном вытеснении человека из работы. По оценке компании, к марту 2028 года значительная часть ее исследований может выполняться ИИ-системами совместно с собственными исследователями; такие системы должны оставаться управляемыми, подотчетными и связанными с людьми.

Альтман и Пахоцки пишут, что «полностью автоматизировать все» — не тот вариант будущего, к которому стремится компания. По их словам, по мере роста возможностей ИИ роль людей должна заключаться в постановке целей, выборе компромиссов и вынесении суждений о том, что вообще стоит делать.

Отдельный пункт — регулирование передовых моделей. OpenAI предлагает создать международную организацию для координации ведущих ИИ-разработок и снижения катастрофических рисков; среди ее задач компания называет возможность согласованных действий, включая замедление разработки передовых систем, если это потребуется для безопасности, устойчивости общества и выравнивания систем с человеческими целями.