Митрополит Тихон предупредил об опасности получить «дебилов» из-за ИИ

Использование искусственного интеллекта может привести к интеллектуальной деградации людей, если они не будут относиться к этому с должной критичностью, считает митрополит Симферопольский и Крымский Тихон (Шевкунов). Об этом он заявил на Х конференции СберУниверситета про обучение и развитие «Больше чем обучение».

«Кто-то из тех, кто его (ИИ - РБК) создает, тот кто правильно им пользуется, он действительно возрастает: и интеллектуально и в своем опыте. А вот те, которые не знают, что такое гигиена мысли — вот тут огромная опасность, — предупредил Тихон. — Мы получим в ближайшее время — я это вижу уже сейчас — интеллектуальных дебилов. Люди, которые в совершенстве владеют искусственным интеллектом, всячески им пользуются, и сами при этом стремительно, стремительно деградируют».

Он привел в пример журналиста, которому нейросеть Claude может «гораздо лучше и интереснее набросать 20 вариантов». Спустя несколько месяцев «таких упражнений» это приведет такого журналиста «к самым печальным последствиям», уверен митрополит.

Тихон считает, что необходимо создавать фильмы о том, как ИИ «завоевывает человека талантливого, хорошего», как человек паразитирует на искусственном интеллекте, и чем это заканчивается. «Устрашить. Вот действительно устрашить тем будущим, которое в данном случае мне представляется печальной реальностью», — заключил он.

Ранее ученые из комиссии журнала Lancet по глобальным угрозам здоровью XXI века пришли к выводу, что человечество может вымереть к 2100 году из-за злонамеренного использования ИИ, включая биологическое оружие, и ядерного конфликта.

Комментируя опасения того, что ИИ может выйти из-под контроля человека и установить власть над ним, митрополит Симферопольский и Крымский допустил, что это возможно, если ИИ окажется в руках людей, «мизантропов», которые ставят себе такую цель. «В чем опасность большая, чем любое другое орудие и оружие? Атомную бомбу имеют несколько стран. А вот искусственный интеллект в ближайшее время будет в распоряжении огромного числа людей, — добавил Тихон. — Причем, если неправильно скажу, поправьте, но именно боевой искусственный интеллект — искусственный интеллект, который может причинять боль и воздействовать на целое общество». По его мнению, так вполне может случиться, если «боевой» ИИ не ограничивать по примеру ядерного оружия.

Глава Anthropic, которая разрабатывает большую языковую модель Claude, Дарио Амодеи ранее предложил замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним. Он объяснил это случаем с разработками компании OpenAI — ее ИИ-агенты вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Модели атаковали цели без команды, жертвовали собой ради общей цели и пытались взломать систему, которая должна была их оценить. Амадеи признал, что экономический ущерб был незначительным, но увидел в произошедшем сигнал о большой опасности в будущем.

Илон Маск, который владеет компанией xAI, разработавшей модель Grok, согласился с Амадеи. Глава OpenAI (разрабатывает ChatGPT) Сэм Альтман также выразил солидарность с главой Anthropic.