WSJ: системы OpenAI взломали при помощи ИИ-модели Claude от Anthropic

Независимые исследователи в области кибербезопасности использовали программное обеспечение Claude от компании Anthropic для получения доступа к учетной записи сотрудника OpenAI в сервисе ChatGPT. Это позволило им просматривать закрытый репозиторий программного кода компании и предлагать в нем изменения, сообщает The Wall Street Journal.

Процедура проходила в рамках специальной программы OpenAI по поиску уязвимостей (bug hunting) в ее системах. Группа исследователей оперативно сообщила компании о результатах своей работы. OpenAI выплатила команде вознаграждение $6500, а сами исследователи рассказали о своей работе WSJ .

В OpenAI сообщили, что исследователи обнаружили две уязвимости: одну — в стороннем сервисе Discourse, на базе которого работает форум сообщества OpenAI, а вторую — в системах самой компании. По заявлению OpenAI, обе проблемы уже устранены. «Мы благодарим исследователей за то, что они связались с нами и поделились своими выводами. Мы ограничили права доступа, а также аннулировали скомпрометированные токены и завершили соответствующие сеансы»,— отметили в компании

Компания Anthropic не комментирует эту информацию.

Евгений Хвостик