Anthropic предупредила инвесторов об экзистенциальных рисках ИИ в проспекте IPO

Разработчик моделей Claude посвятил около трети проспекта IPO факторам риска, включая возможную утрату контроля над продвинутыми системами ИИ. Документ также раскрыл быстрый рост выручки Anthropic, многомиллиардные убытки и обязательства по облачной инфраструктуре на $518 млрд.

Компания Anthropic, разработчик семейства моделей Claude, предупредила потенциальных инвесторов, что дальнейшее развитие искусственного интеллекта может создать «катастрофические или экзистенциальные риски для человечества». Как сообщает Financial Times, факторам риска отведено около трети проспекта первичного размещения акций компании.

Среди описанных сценариев — попытки моделей сопротивляться отключению, скрывать или искажать информацию, а также поведение, напоминающее шантаж. Anthropic также указала на риски неправильного применения ИИ, кибератак и создания биологического оружия.

Проспект раскрыл и финансовые показатели компании. По данным Reuters, в 2025 году выручка Anthropic выросла примерно в 12 раз, почти до $4,6 млрд, а операционный убыток превысил $8 млрд. Совокупные будущие обязательства по облачным сервисам, вычислительным ресурсам и другой инфраструктуре оцениваются в $518 млрд.

В документах также отмечена высокая концентрация клиентов: почти четверть выручки за 2025 год обеспечили всего два заказчика.