ИИ-агент OpenAI получил несанкционированный доступ к порталу Medicare в Австралии

Внутренняя модель OpenAI 18 июня обошла ограничения австралийского портала статистики Medicare и получила доступ к публичным и непубличным файлам. Признаков утечки персональных данных пока нет, однако власти начали расследование и отдельно изучают, почему OpenAI сообщила об инциденте лишь 10 сентября.

Инцидент произошел 18 июня, когда исследовательская группа OpenAI использовала внутреннюю модель для поиска в интернете данных о государственных расходах на лекарства. Столкнувшись с повторными блокировками, ИИ-агент начал искать альтернативные способы получения информации, получил несанкционированный доступ к публичным и непубличным файлам, а также записал файлы на внутренний сервер.

Портал Medicare Statistics Reporting Portal находится в ведении Services Australia — агентства, предоставляющего государственные социальные и медицинские услуги. Он содержит статистику, включая сведения о расходах, но не персональные медицинские записи. На данный момент власти не обнаружили признаков доступа к личным данным или компрометации остальной сети Services Australia. Продолжается экспертиза с участием Австралийского управления радиотехнической обороны.

OpenAI уведомила правительство 10 сентября, отправив письмо на общий публичный адрес. Services Australia передала сообщение Австралийскому центру кибербезопасности только 15 сентября. Премьер-министр Энтони Албаниз назвал задержку и способ уведомления неприемлемыми; после разговора с ним глава OpenAI Сэм Альтман признал недостаточность внутренних протоколов компании.

Правительство сформирует специальную рабочую группу, которая проверит другие потенциально затронутые государственные системы, оценит действующие процедуры реагирования на инциденты с ИИ и выяснит, были ли нарушены законы и следует ли передавать дело федеральной полиции. Подробности опубликованы в стенограмме пресс-конференции премьер-министра Австралии.