О взломе ИИ-агентом правительственного сайта сообщил премьер-министр Австралии

ИИ-агент американской компании OpenAI взломал статистический интернет-ресурс австралийской системы всеобщего медстрахования. Об этом заявил премьер-министр Австралии Энтони Альбанезе, сообщает корреспондент агентства «Минск-Новости».

Фото Unsplash

Это заявление прозвучало 23 сентября на пресс-конференции во время Генеральной Ассамблеи ООН, когда ведущие компании, занимающиеся искусственным интеллектом, предупредили Совбез ООН о глобальных рисках и призвали правительства сотрудничать ради сохранения контроля над технологиями ИИ, которые становятся все мощнее.

Как пишет Reuters, на сайте, к которому был получен несанкционированный доступ, содержатся обобщенные данные об использовании медуслуг по всей стране и нет личной финансовой, медицинской информации миллионов австралийцев. Власти сочли случившееся серьезным нарушением. ИИ-агент, искавший статистику в сфере здравоохранения, получал от системы отказы в доступе, но не принял их, а самовольно нашел, как обойти препятствия.

Австралия выразила руководству компании из США свою обеспокоенность в связи с произошедшим. Э. Альбанезе назвал ситуацию неприемлемой и отметил, что разочарование вызывает, что уведомление об инциденте поступило только 10 сентября в виде электронного письма ведомству, отвечающему за госуслуги. При этом в стране действует национальный центр кибербезопасности.

По информации СМИ, взлом имел место в июне. Разработчики, с их слов, выявили кибер-инцидент позже летом, проверяя случаи несогласованного поведения ИИ-моделей. Э. Альбанезе также не исключил, что еще три правительственных сайта, посвященных здравоохранению, могли пострадать от агента OpenAI.

В компании завили, что выявили непредвиденную активность ИИ-моделей, связанную с несколькими интернет-сервисами австралийского правительства, но не обнаружили свидетельств доступа к медицинским записям пациентов. Кроме того, подтвердили открытость и готовность сообщать о таких проблемах, делиться информацией.

Власти Австралии инициировали расследование возможной утечки данных. Также предстоит определить, почему правительственные системы не обнаружили нарушение безопасности системы в первую очередь. Также стоит задача выяснить, какие еще меры позволят не допускать подобные инциденты в будущем.