Компетентно — о нарастании рисков использования ИИ и необходимости его законодательного регулирования

На этой неделе в Национальной академии наук состоялся V Международный форум IT-Академграда «Искусственный интеллект в Беларуси». На своей площадке мероприятие собрало около 300 специалистов сферы ИИ, в числе которых были представители Беларуси, России, Китая, Узбекистана и Турции. Эксперты обсудили перспективы развития искусственного интеллекта. Поскольку ИИ-технологии стремительно внедряются в экономику и повседневную жизнь, немалое внимание в ходе обсуждений было уделено подготовке специалистов в данной сфере, рискам, связанным с применением умных систем, а также законодательному регулированию ИИ.

Специалисты нового поколения Во время форума первый заместитель министра образования Александр Баханович отметил, что искусственный интеллект внедряется практически во все сферы социально-экономической жизни: от генерации изображений и текста до разгадки фундаментальных задач, которые, как еще недавно казалось, не имеют решения:

— Образование и наука, с одной стороны, получают мощнейший инструмент, с другой — сталкиваются с социальными вызовами, требующими незамедлительных решений. Именно поэтому нужна консолидация образования, науки и общества. Убежден, что именно такая связка позволит нам не просто следовать мировым трендам, а формировать их.

Он также подчеркнул, что в нашей стране необходимо готовить не только специалистов, способных применять технологии ИИ, а исследователей и инженеров, которые будут создавать их, понимая этическую и социальную ответственность. Потребность в регулировании растет В свою очередь председатель Конституционного Суда Сергей Сивец акцентировал внимание на том, что искусственный интеллект требует ответственного применения с соблюдением законодательства:

— Новые цифровые технологии все шире используются в государственном управлении, медицине, экономике, образовании и других сферах, а значит, требуют внимательного правового осмысления. Для Конституционного Суда особый интерес представляют вопросы правового и этического регулирования искусственного интеллекта, в том числе гарантии защиты прав и свобод граждан в условиях цифровой трансформации, обеспечения баланса между инновациями и традиционными ценностями, а также формирования надежных правовых механизмов, исключающих дискриминацию и произвол при использовании ИИ-систем.

По его словам, очень важно, чтобы внедрение таких технологий служило человеку и обществу, способствовало реализации прав и свобод, не подменяло ответственность органов и должностных лиц и сопровождалось надлежащими гарантиями законности и безопасности, защиты персональных данных.

Стоит отметить, что на протяжении нескольких лет в ряде стран разрабатывались и были приняты национальные стратегии развития ИИ, например в КНР, России, США, Бразилии, Великобритании, Вьетнаме, Дании, Испании, Канаде. Также создаются и действуют национальные, координационные, научные советы, департаменты, управления по развитию ИИ. Кроме того, принимаются законодательные акты и нормативно-правовые документы, регулирующие применение ИИ в разных сферах.

В нашей стране также сделаны шаги в этом направлении. Профессор БГУ, главный научный сотрудник Объединенного института проблем информатики (ОИПИ) НАН Беларуси, академик НАН Беларуси Сергей Абламейко обратил внимание, что под эгидой ОИПИ был разработан модельный закон СНГ «О технологиях искусственного интеллекта».

Этот документ был официально принят 18 апреля 2025 года постановлением Межпарламентской ассамблеи государств — участников СНГ (МПА СНГ) на заседании в Санкт-Петербурге. Модельный закон носит рекомендательный характер и направлен на унификацию национальных законодательств в рамках СНГ в сфере искусственного интеллекта. Также академик напомнил, что в ноябре 2024-го проведены слушания по цифровому праву в Парламенте, где были подготовлены определенные рекомендации по развитию цифрового права, которые реализуются:

— Вместе с тем в Беларуси необходимо создать координационный совет по развитию искусственного интеллекта, разработать концепцию развития, дорожную карту внедрения ИИ в отрасли и планы подготовки стандартов применения умных систем. Также нужно создать рабочую группу по развитию законодательной и нормативно-правовой базы ИИ. Это не наше ноу-хау — подобное принято в десятках стран. Технологии ИИ мы активно развиваем, но вопросов регулирования становится все больше, потому что рисков очень много.

Ведущий научный сотрудник ОИПИ НАН Беларуси Василий Ковалев ознакомил участников мероприятия с основными методами атак на большие языковые модели. Такие атаки совершенно новые, кардинально отличающиеся от существующих IТ-уязвимостей. Поэтому защищать нужно не только программный код, но и данные, промпты (запросы к ИИ-ассистенту), контекст работы таких моделей, подчеркнул специалист:

— Это могут быть атаки на агентов искусственного интеллекта, на софт, встроенный в систему, например, роботов, которых становится все больше.

Он отметил, что для атак может применяться метод инъекции промптов, когда злоумышленник манипулирует языковой моделью с помощью специального текста (инструкции), заставляет модель игнорировать заложенные разработчиками системные правила:

— Системе искусственного интеллекта можно написать определенные промпты, которые могут заставить ее вести себя таким образом, каким не предусматривал разработчик. Это может иметь непредсказуемые последствия.

Не менее опасен и метод отравления данных — умышленное искажение информации, на которой обучается большая языковая модель. Уязвимость может быть создана с использованием RAG-технологии (Retrieval-Augmented Generation) — добавления знаний и данных в модель путем динамического вызова функций поиска информации во внешних источниках.

— RAG-технологии обеспечивают выход модели во внешние источники, а значит, есть потенциальная уязвимость, — рассказал Василий Ковалев. — Например, мы спрашиваем у модели о погоде. Эту информацию она берет из советующего внешнего ресурса. Таким образом, получается, что итоговый ответ определяется пользователем, а не разработчиком модели. Потенциально это может быть опасно. Целью таких атак будет создание скрытой уязвимости, которая заставляет ИИ выдавать ложные ответы, галлюцинировать.

Не менее опасно и то, что у большой языковой модели отсутствует эмпатия в принятии решений, подытожил ученый:

— ИИ не испытывает жалость, он выполняет задачу. В конституциональных правилах для ИИ разработчиком должно быть прописано, что система не может вредить человеку, однако всегда можно найти лазейку. И вот самое опасное, на мой взгляд, — «машинная психопатия», когда у ИИ нет жалости, когда машина делает все, чтобы выполнить задачу. Тут может сработать правило: если не прописано то, что делать нельзя, значит, это делать можно.

kryzhevich@sb.by