Reuters: китайские ИИ-агенты научились обманывать людей
Искусственный интеллект, созданный на основе китайских моделей, продемонстрировал несколько поведенческих особенностей, которые ранее уже вызвали опасения по поводу систем, разработанных в США. Агентство Reuters проанализировало более 200 технических отчетов и других документов и выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, в которых сообщалось, что разработанные в КНР ИИ-агенты научились обманывать людей и совершать другие потенциально опасные действия.
Искусственный интеллект, созданный на основе китайских моделей, продемонстрировал несколько поведенческих особенностей, которые ранее уже вызвали опасения по поводу систем, разработанных в США. Агентство Reuters проанализировало более 200 технических отчетов и других документов и выявило по меньшей мере 20 исследований или оценок, проведенных после 2025 года, в которых сообщалось, что разработанные в КНР ИИ-агенты научились обманывать людей и совершать другие потенциально опасные действия.
Как отмечает Reuters, полученные результаты не говорят о том, что «китайские ИИ-агенты смогли вырваться в открытый интернет и их стало невозможно отключить». Большинство инцидентов произошло в контролируемых исследовательских условиях. Тем не менее, по словам экспертов, эти эксперименты служат важным предостережением о том, что может произойти по мере роста возможностей ИИ-агентов и расширения их доступа к компьютерам, сетям и другим ресурсам.
Ранее подобное поведение ИИ-агентов от американских компаний уже вызвало извинения и предостережения со стороны крупнейших корпораций США.
Евгений Хвостик
