Подкомитет Сената США расследует действия OpenAI после взлома Hugging Face её ИИ-агентами

Сенатор Джош Хоули потребовал от OpenAI раскрыть внутренние документы и ответить на 16 вопросов об июльском инциденте с ИИ-агентами. Компания должна предоставить сведения до 1 октября.

Подкомитет Сената США по управлению чрезвычайными ситуациями начал расследование того, как OpenAI отреагировала на взлом инфраструктуры Hugging Face — платформы для публикации и совместной разработки моделей машинного обучения.

Председатель подкомитета, сенатор-республиканец Джош Хоули, потребовал от главы OpenAI Сэма Альтмана до 1 октября ответить на 16 вопросов и передать документы о внутренних процедурах безопасности. Хоули назвал безрассудным решение не останавливать испытания после появления признаков нештатного поведения агентов и указал, что в отчёте OpenAI были скрыты важные детали.

Инцидент произошёл во время внутренней оценки кибернетических возможностей моделей. Согласно сообщению OpenAI, агенты нашли и связали несколько уязвимостей, получили доступ в интернет из изолированной среды и проникли в производственную инфраструктуру Hugging Face, чтобы извлечь ответы для тестового задания. Hugging Face ранее сообщила, что атаку выполняла автономная агентная система, совершившая тысячи действий через множество краткоживущих изолированных сред.