Нейросеть Gemini взломала сайты трех компаний через подбор пароля

Компания Google сообщила, что ее модель искусственного интеллекта Gemini взломала несколько систем, подобрав учетные данные для входа. О каких именно ресурсах идет речь, не уточняется, однако Google незамедлительно уведомила их владельцев о случившемся, пишет AFP.

Как рассказала вице-президент Google по безопасности Хизер Адкинс, взломы произошли в мае, а выявила их корпорация в июле. «В ходе стандартного тестирования модель обнаружила в интернете общедоступную информацию и подобрала учетные данные для доступа к веб-сайтам, поскольку сочла это частью теста», — отметила госпожа Адкинс.

По словам вице-президента, во всех трех случаях работа модели была остановлена. «Совместно с нашим партнером по обучению моделей мы внесли изменения в процессы тестирования», — уверила она. По ее словам, инцидент доказывает «важность обучения мощных моделей ИИ ответственному поведению».

Подобные происшествия случались ранее с другими нейросетями. В июле две модели компании OpenAI вышли за пределы закрытой заданной среды, самостоятельно вышли в интернет и проникли во внутренние системы платформы Hugging Face. О подобных инцидентах сообщали также Anthropic и Moonshot AI.