ИИ-агент OpenAI самостоятельно взломал правительственный сайт Австралии

Премьер-министр Австралии Энтони Албаниз заявил, что ИИ-агент OpenAI взломал сайт государственной службы медстрахования. Нейросеть «получила доступ как к публичным, так и к закрытым файлам», сообщил глава правительства.

Агент смог получить доступ к неконфиденциальной медицинской статистике, а также к данным о государственных расходах на здравоохранение. «Сейчас проводится криминалистическая экспертиза.., чтобы выяснить подробности, включая то, какие еще правительственные системы могли быть затронуты»,— заявил господин Албаниз в Нью-Йорке, где он принимает участие в Генеральной Ассамблее ООН (цитата по The Guardian).

ИИ-агент взломал сайт в июне, в самой компании узнали о произошедшем в августе — во время плановой проверки «некорректного поведения моделей», сообщили в OpenAI. «Лишь 10 сентября поступило хоть какое-то уведомление (от компании.— "Ъ"). И это было письмо, отправленное просто на общий публичный почтовый ящик»,— сказал господин Албаниз.

В OpenAI подтвердили, что «зафиксировали активность, затрагивающую несколько веб-сайтов и служб правительства Австралии», во время которой их модели «совершили действия, которые не планировались», передает Financial Times. В компании заверили, что модель не получила доступа к медицинским картам пациентов, а утечка затронула «агрегированную статистику здравоохранения и названия файлов».

Агенту ИИ была поставлена «безвредная задача» по исследованию медицинской статистики, рассказал заместитель премьер-министра Ричард Марлз. Во время выполнения задачи он обратился к трем австралийским сайтам, и когда не смог получить информацию от одного из них, фактически взломал портал и извлек нужные ему данные, сообщил он.

О том, как ИИ выходил из-под контроля за последний год,— в материале «Ъ».