Уволенные исследователи OpenAI оспорили обвинения в нарушении правил безопасности

Трое бывших исследователей безопасности OpenAI заявили, что не выходили за рамки своих полномочий при взаимодействии с внешними экспертами. Они предупредили, что увольнения и неясные внутренние правила могут заставить сотрудников замалчивать риски; OpenAI отрицает связь решений с критикой компании.

Бывшие исследователи безопасности OpenAI Жасмин Ван, Томек Корбак и Микита Балесни опубликовали открытое письмо, в котором оспорили обвинения в ненадлежащем обращении с конфиденциальной информацией. По их словам, сотрудничество с независимыми экспертами входило в их рабочие задачи, а правила для некоторых новых ситуаций формировались непосредственно во время расследований.

Авторы письма отрицают, что передали изданию The Information сведения об архитектурах моделей OpenAI, затрудняющих контроль цепочек рассуждений. Они считают, что внезапные увольнения и отсутствие четких процедур могут создать в компании атмосферу страха и помешать сотрудникам сообщать о проблемах безопасности.

Представитель OpenAI сообщил TechCrunch, что расследование выявило систематические нарушения правил обращения с исследовательской информацией. Компания утверждает, что увольнения не были ответом на критику или поднятые сотрудниками вопросы безопасности, однако не раскрыла конкретные нарушенные правила.

Исследователи призвали OpenAI продолжить сотрудничество с независимыми аудиторами, сохранять возможность контроля передовых моделей и установить понятные процедуры взаимодействия сотрудников с внешними организациями, занимающимися безопасностью искусственного интеллекта.