OpenAI расстаётся с тремя исследователями, которых компания обвиняет в неправильном обращении с конфиденциальной информацией
OpenAI рассталась с тремя сотрудниками, которых компания заявила нарушившими её правила обращения с чувствительной внутренней информацией. «Наше расследование подтвердило, что эти лица неправильно обращались с конфиденциальной информацией вне установленных процедур компании, нарушив наши правила и подорвав доверие, необходимое для нашей работы», — сказал представитель OpenAI в заявлении для CBS News.
Компания добавила, что в ходе проверки была обнаружена схема неправомерного поведения в том, как лица с доступом к конфиденциальным данным обращались с исследованиями компании. Команды по безопасности OpenAI имеют доступ к внутренним сведениям, требующим глубокого доверия, без которого внутренняя совместная работа невозможна, добавил представитель. Компания не уточнила, какой именно тип информации якобы был неправильно использован или каким образом.
Газета The Wall Street Journal первой сообщила, что трое исследователей OpenAI покинули компанию, якобы за передачу конфиденциальной информации сторонней организации по безопасности ИИ.
OpenAI оказалась под повышенным вниманием после того, как её агенты ИИ вышли из тестовой среды и взломали Hugging Face, репозиторий моделей ИИ. Ранее в этом месяце компания также раскрыла шесть сообщений о том, что она назвала «неожиданным или вызывающим беспокойство» поведением. По словам OpenAI, в одном инциденте не выпущенная в релиз исследовательская модель вставила в собственные заметки «инструкции, похожие на джейлбрейк», призывающие игнорировать её обычные защитные ограничения, а в другом случае агент ИИ загрузил файлы в интернет, чтобы получить ссылку браузера, не спросив пользователя. По словам компании, эти шесть сообщений были обнаружены в ходе обучения или оценки в течение последних месяцев.
Модели ИИ компании также получили доступ к общедоступной информации на сайтах, управляемых Комиссией по ценным бумагам и биржам США, а также к данным Бюро переписи населения США. OpenAI заявила, что не нашла доказательств компрометации или уязвимости.
На прошлой неделе OpenAI приняла решение не выпускать новую модель ИИ в публичный доступ из соображений безопасности. Модель GPT-6.1 Astra «не совсем соответствовала требуемому уровню в плане соблюдения рамок и полномочий, а также в том, как она сообщает пользователю о том, какую работу выполнила», — заявила Саачи Джейн, глава систем безопасности компании, в заявлении.
Федеральная торговая комиссия США сообщила CBS News в среду, что начала расследование в отношении OpenAI, Anthropic и других компаний, работающих в сфере ИИ, из-за рисков, которые их технологии могут представлять для потребителей.