OpenAI попросила Конгресс США разъяснить законность согласованного замедления ИИ-разработок

OpenAI запросила у американских законодателей разъяснения о том, могут ли разработчики передовых ИИ-систем совместно замедлять их развитие, не нарушая антимонопольное законодательство, сообщает WIRED. Компания публично не подтвердила обращение, однако ее главный научный сотрудник Якуб Пахоцкий ранее призвал отрасль координировать темпы разработки ради безопасности.

OpenAI в последние недели просила членов Конгресса США разъяснить, будет ли законной координация отраслевого замедления разработки передовых ИИ-систем. Об этом сообщает WIRED со ссылкой на близкие к компании источники. OpenAI не ответила изданию на запрос о комментарии.

Совместные действия конкурирующих лабораторий могут вызвать вопросы с точки зрения закона Шермана и других антимонопольных норм. В частности, договоренность об ограничении разработки теоретически может рассматриваться как согласованное сокращение выпуска продукции. Правовая оценка при этом будет зависеть от конкретных условий соглашения.

6 сентября главный научный сотрудник OpenAI Якуб Пахоцкий опубликовал программную статью, в которой назвал координацию для замедления будущих разработок одним из способов повысить безопасность самосовершенствующихся ИИ-систем. По его мнению, масштабирование моделей следует ограничивать уровнем уверенности в их безопасности, а добровольные паузы могут стать обычной практикой до появления общих требований.

В июле группа законодателей от обеих партий внесла законопроект Collaboration on Adversarial Threats and Security Risks Act. Он предусматривает ограниченное освобождение от антимонопольных претензий при добросовестном обмене данными об угрозах и координации задержки или ограничения развертывания высокорисковых моделей. Законопроект также содержит меры против использования исключения для антиконкурентных соглашений.

О фактической договоренности между ИИ-компаниями или о согласованной приостановке разработок пока не сообщается: обсуждение касается правовой основы для возможного сотрудничества в будущем.