СМИ: глава Amazon предупреждал власти США о рисках моделей Anthropic перед их блокировкой

По данным TechCrunch со ссылкой на The Wall Street Journal, гендиректор Amazon Энди Джесси сообщил чиновникам США о тестах Claude Fable 5, в которых исследователи Amazon получили сведения, потенциально пригодные для кибератак. Ранее Anthropic отключила Fable 5 и Mythos 5 для всех клиентов после экспортной директивы США, хотя компания оспаривает оценку риска.

Генеральный директор Amazon, крупного инвестора и инфраструктурного партнёра Anthropic, Энди Джесси мог быть одним из источников опасений, которые предшествовали ограничениям США в отношении двух моделей Anthropic — Claude Fable 5 и Claude Mythos 5, пишет TechCrunch со ссылкой на The Wall Street Journal. По данным издания, Джесси говорил министру финансов США Скотту Бессенту и другим чиновникам, что исследователи Amazon смогли с помощью Claude Fable 5 получить информацию, которую можно использовать в кибератаках.

Amazon в комментарии WSJ заявила, что правительства нередко обращаются к компании за консультациями о потенциальных рисках безопасности, но детали таких обсуждений компания не раскрывает. TechCrunch также указывает, что Reuters и The Information сообщили о похожих обращениях Amazon к властям по поводу безопасности моделей Anthropic.

Anthropic 12 июня сообщила, что получила директиву США об экспортном контроле, требующую ограничить доступ иностранных граждан к Fable 5 и Mythos 5, включая иностранных сотрудников компании. Из-за требований соблюдения директивы Anthropic отключила доступ к этим моделям для всех клиентов; остальные модели Anthropic, по заявлению компании, не затронуты.

Anthropic утверждает, что ей предоставили только устные сведения о «узком» возможном jailbreak, а описанные возможности сопоставимы с тем, что уже доступно в других публичных моделях. Компания заявила, что соблюдает правовое требование, но считает меру непропорциональной и намерена добиваться восстановления доступа.