В каких сферах искусственному разуму нельзя доверять: эксперты перечислили несовершенства ботов

«Безоговорочного доверия к составленной ИИ документации нет»

В не очень выгодном свете показывают себя в настоящее время ИИ-решения в юридической сфере. Юристы-профессионалы, анализирующие составленные с его помощью документы, часто замечают, что тексты оказываются совершенно безграмотными.

— Сегодня ИИ достаточно часто используется при составлении юридической документации, например, при подготовке разнообразных ходатайств и заявлений, — рассказал «МК» заслуженный юрист России, общественный деятель Иван Соловьев. — К сожалению, предлагаемый иной раз искусственным интеллектом текст бывает далек от юридически безупречного документа.

По его словам, когда нейросети только появились в 2023 году, качество того, что они предлагали, «было отвратительным». Алгоритмы ИИ давали ссылки на судебные решения, которых на самом деле не было, и тем самым подводили живых юристов. Но постепенно ИИ стали настраивать, совершенствовать, и он стал, как говорится, «умнеть».

— Если поначалу его функции были примитивны, то сейчас зона охвата, которая есть у ИИ, растет, — продолжает наш собеседник. — Сегодня каждый человек может составить свою версию юридического документа с помощью искусственного интеллекта через специальные сервисы. Но все равно детали, насколько все это соответствует закону, должен потом перепроверить профессиональный юрист, особенно в части ссылок. Безоговорочного доверия к составленной ИИ документации нет и быть не может.

— Где целесообразно сегодня применять ИИ в сфере юриспруденции?

— Я считаю, это должны быть какие-то не очень сложные вещи. Простой иск, доверенность, запрос, может быть, устав. Все то, что уже отработано и не требует серьезных юридических квалификаций. А вот то или иное действие, которое совершил человек, где требуется субъективная, человеческая оценка умысла, мотива, ИИ, конечно, пока еще не научился анализировать. Но более рутинные вещи, за счет которых очень многие юридические фирмы сегодня живут, — их искусственный интеллект уже делает. И для них это очень тревожная тенденция.

— Заменят ли со временем нейросети юристов?

— Когда кто-то говорит о том, что «юрист не может быть заменен искусственным интеллектом», «врач не может быть заменен искусственным интеллектом» и далее по списку ряда профессий, — это, как мне кажется, утверждения временные, придуманные людьми для ободрения самих себя. Потому что ИИ очень быстро обучается. И мы не знаем, что будет через год.

Например, уже есть программа внедрения ИИ в судебную систему. Председатель Верховного суда Российской Федерации Игорь Краснов подписал соответствующее распоряжение. И, как я понимаю, постепенно это будет внедряться во всех ведомствах, в том числе и правоохранительных органах.

А вот с еще одной расхожей фразой, что «искусственный интеллект никогда не должен заменить судью», я согласен на все 100%. Мы надеемся, что судить все-таки будет человек, точно так же, как и нюансы в сложных юридических делах сможет оценить только человек.

«В неумелых руках ИИ — как бомба замедленного действия»

Немало несовершенств у ИИ-решений, применяемых в области рекрутинга и поиска работы. К ним сегодня активно прибегают обе стороны — и рекрутеры-работодатели, и кандидаты. Об изъянах кадровых решений ИИ «МК» рассказала независимый эксперт в области управления персоналом Алевтина Андреева.

В топе обращений соискателей к таким разработкам — составление резюме. Поскольку и сами рекрутеры уже почти повсеместно используют ИИ-программы для обработки резюме, кандидату машинный разум помогает с помощью ключевых слов вакансий дополнить резюме или сформировать его под те слова и требования, на которые реагируют HR-боты.

Однако идеально составленное резюме — еще не гарантия успеха: человек на собеседовании должен объяснить его логику и подтвердить написанное реальным опытом.

Искусственный разум также может быть хорошим помощником при подготовке к интервью, поскольку он хорошо обучен и знает типовые вопросы, которые можно использовать как базовый тренажер для подготовки к собеседованиям. Всегда можно попросить ИИ оценить ответы.

Работодатели тоже активно используют нейронку. В первую очередь для обработки потока резюме. Однако здесь как раз и кроется серьезный подвох.

— При всех преимуществах применения ИИ очень многие в бизнесе заблуждаются, считая, что он может полностью заменить человека, — продолжает Алевтина Андреева, — особенно при точечном подборе уникальных кандидатов на нетиповые позиции, которые влияют не только на все процессы бизнеса, но также и на прибыль компании. Такие кандидаты не будут общаться с ИИ-ботами, которые еще и «сбоят», что напрямую влияет на бренд работодателя.

Первый пример несовершенства работы ботов, предназначенных для отбора кандидатов, — это когда запросы ограничивают возраст соискателей, например, до 38 лет. То есть специалисты с гигантским бэкграундом, которые поднимают компании «с колен», — неликвид.

Следующий изъян — категоричные выводы и отказы кандидатам со стороны ИИ после получения их ответов без возможности задать уточняющий либо дополнительный вопрос. Имеется в виду, что слишком верхнеуровнево изначально настроенные ИИ-агенты не в состоянии считывать корректно целевую аудиторию.

Также были выявлены боты, которые «закольцовывают вопросы, ломаются в процессе интервью и закрывают переписку с кандидатом».

Но больше всего нашу собеседницу настораживает такая особенность IT-решений в области подбора персонала, как настройка ИИ-агентов исключительно на среднестатистические показатели, которые уже на входе отсеивают кандидатов со сверхрезультатами!

— ИИ порой не упрощает, а усложняет работу рекрутеров, — продолжает Алевтина, — так как, формируя резюме через ИИ для того, чтобы пробиться через HR-боты, кандидаты не всегда отражают реальный опыт и экспертизу в резюме. И рекрутерам приходится тратить большое количество времени для того, чтобы понять реальный профиль кандидата, учитывая, что на вакансию может быть в день более 500 откликов…

В итоге вместо того, чтобы ускорить с помощью ИИ-технологий поиск компанией нового сотрудника и поиск работы соискателем, этот срок, напротив, удлиняется. Парадокс…

«В неумелых руках, без фундаментальных знаний и глубокого погружения IT-разработчиков в процессы подбора кадров для компании, без глубокой проработки технического задания ИИ-разработка становится «бомбой замедленного действия», которая может навредить реализации конечных целей компании», — предупредила HR-эксперт.

«Психология — это все-таки наука о душе»

В качестве еще одного примера, когда людям не следует слепо прибегать к ИИ, можно привести психотерапию и психиатрию. Хотя, вновь отметим, что самими психологами машинный разум может и должен быть использован как помощник, как вспомогательный инструмент. А вот для людей общение с нейронкой, выступающей в роли психотерапевта, все может закончиться плачевно. Психика человека — очень тонкая, сложная вещь, и бездушная нейросеть тут может фатально навредить. Например, чат-бот может давать неадекватные ответы на суицидальные идеи, что может привести и уже приводило к трагедии.

В России пока эта проблема, к счастью, не стоит так уж остро. Будем надеяться, что ее вообще удастся предотвратить, загубить в зародыше. Но в США и Европе уже происходили и продолжают происходить чудовищные ситуации, когда люди, чаще подростки, после длительных бесед с чат-ботами совершали суициды или попадали в психиатрические клиники.

Как подтвердила «МК» семейный психолог Анастасия Климченко, специалисты ее профиля все чаще сталкиваются с ситуациями, когда люди ищут психоэмоциональной поддержки у нейросети. «Когда у людей депрессия, апатия и нет сил, средств обратиться к специалисту, а хочется именно «здесь и сейчас» получить ту самую «волшебную таблетку» от душевной боли, они обращаются к ИИ и получают вот эту усредненную «таблетку», — отмечает она.

И особенно вредно и даже порой опасно, когда о личных проблемах «нейронного психотерапевта» спрашивают подростки с неустойчивой и незрелой психикой.

«Если рассматривать эту проблему с общего ракурса, то ИИ, когда к нему обращаешься с каким-то вопросом, в процессе подготовки ответа апробирует всю информацию, которая есть в базе данных, и получается, что он выдает какой-то усредненный ответ, то есть часто повторяющийся, стереотипный, — говорит специалист. — Психология — это все-таки наука о душе, а ИИ лишь выдает информацию, по которой человек может составить некое общее представление о том, что его интересует».

И одно дело, если за советами психологического плана к ботам идут взрослые люди. И совсем другое — когда подростки. Главная опасность в том, что подросток, получая от ИИ некую «усредненную информацию», принимает решения на ее основе. Но человек должен находить выход из какой-то своей сложной ситуации на основе работы над собой, в процессе рефлексии, которая так необходима для зрелости, — то есть когда человек берет ответственность на себя, когда он понимает, зачем он это делает, когда он способен оценить последствия своих решений. Юным девочкам и мальчикам этого еще не дано.

Именно психолог, а не машина, помогает, учит, сопровождает, выстраивает так работу, чтобы сам ребенок, сам подросток находил ответы на свои вопросы, сопоставлял, копался, сравнивал, примерял на свою жизнь, наблюдал. «Это процесс длительный, не спонтанный. А ИИ, повторюсь, дает ему сразу ответ», — говорит эксперт.

И в принципе, по словам Анастасии Климченко, на уровне оценки ситуации искусственный интеллект ответ может дать, но он может выступить только вспомогательным инструментом. Нельзя злоупотреблять им, проводить сутки напролет в беседах с чат-ботом и уж тем более — решать с ним свои психологические проблемы.

«Дальше он будет только умнее»

Но все это временные трудности, уверены специалисты, работающие над внедрением ИИ-решений в бизнес-процессы. Да, ИИ пока ошибается. Но надо держать в голове, что сегодняшний ИИ — самый глупый за всю свою дальнейшую историю. Дальше он будет только умнее. Такое мнение высказал «МК» эксперт по искусственному интеллекту Егор Рудометкин. Новые версии ИИ выходят каждые несколько недель. И задачи, в которых нейросеть путалась еще месяц назад, сегодня она решает нормально. А еще через месяц будет готова делать все лучше и надежнее человека.

«При этом многие ошибки, про которые рассказывают юристы и рекрутеры, — не про глупость ИИ. Они про то, как его встраивают в процесс. Ведь мало взять хорошую нейросеть. Ее надо встроить в работу компании так, чтобы она обладала нужными знаниями и люди умели ею правильно пользоваться», — объясняет он.

Специалист привел такую аналогию. Вот пришел на работу гениальный сотрудник. Он знает все на свете, но не знает вашу компанию. Дадите ему задачу без вводных и не проверите — он точно ошибется. И виноват будет не он, а тот, кто ставил задачу и инструктировал. «Так что ошибки ИИ будут исправляться умнеющим ИИ и людьми, которые будут учиться с ним работать все лучше и лучше с каждым месяцем», — заверил наш собеседник.

На вопрос «МК», где, в каких сферах нельзя доверять ИИ — и вряд ли когда-то будет можно, Егор Рудометкин ответил: «Есть простое правило: ИИ может принимать любые решения, но ответственность всегда на человеке. И вопрос не в том, где ИИ никогда нельзя будет довериться, а «какие ИИ-решения мы никогда не дадим принимать без нас».

Ведь за эти решения человек должен принять ответственность. Например, в одном автомобильном бизнесе ответы службы поддержки до сих пор не готовы отдать ИИ, потому что «а мало ли что». В другом международном бизнесе подписание договоров на уровне генерального директора доверяют ИИ-агенту.

И разница не в технологии, потому что технология одна. Разница в готовности принять риски и последствия на данном уровне решений. Какого масштаба решения именно вы готовы отдать ИИ? Каждый человек и каждый бизнес решает сам», — заключил эксперт.

Это правило озвучил не так давно Владимир Путин, сказав: «Искусственный интеллект должен быть инструментом в руках человека, но конечные решения должны быть за человеком».

Очевидно, что развитие IT-технологий уже не остановить, поэтому остается полагаться на профессионализм и опыт специалистов, которые в конце концов разберутся методом проб и ошибок, в каких случаях не стоит перекладывать свои рабочие функции на машинный интеллект, а какие задачи ему можно доверить в качестве помощника.