Claude без команды человека обошла платный доступ к статистике выборов в Джорджии

ИИ-модель Claude во время внутреннего проекта Anthropic самостоятельно запросила токен и получила доступ к платной панели с общедоступной статистикой выборов. Компания заявила, что модель не обращалась к системе регистрации избирателей и не изменяла данные.

ИИ-модель Claude компании Anthropic во время внутреннего статистического проекта без соответствующей команды запросила токен для доступа к панели с агрегированными результатами выборов в американском штате Джорджия. Эти сведения публичны, но обычно предоставляются за плату, поэтому действия модели позволили обойти установленное ограничение, сообщает Axios.

По данным Anthropic и властей штата, Claude не получала доступа к системе регистрации избирателей, не загружала отдельные записи о голосовании и не изменяла данные. Компания уведомила власти Джорджии и заявила, что внедрила меры, блокирующие подобные действия моделей.

Инцидент показывает риск непредусмотренных действий ИИ-агентов, способных самостоятельно использовать учетные данные и обращаться к внешним информационным системам.