Dienstag, 17. November 2026Moskau
Gesellschaft

Иллюзия системности: как перенос авторитета с человека на алгоритм убивает опыт и ответственность

23 сентября на «Шоу Эзры Кляйна» ведущий спросил Дженсена Хуанга – главу компании Nvidia и главного советника президента США Трампа по искусственному интеллекту, – что он думает о китайском исследовании, которое проводилось на 26 000 учащихся и показало, что с искусственным интеллектом они выполняют задания быстрее, но когда у них забирают ИИ – результаты оказываются хуже, чем у тех, кто ИИ не пользовался

Von
Veröffentlicht
Иллюзия системности: как перенос авторитета с человека на алгоритм убивает опыт и ответственность

Хуанг ответил, что он совершенно согласен. Вот и таблица умножения сейчас забывается. Базовая математика забывается. Квадратные корни больше не извлекают. И не надо. Например, он, Хуанг, не помнит свой номер телефона. И свой домашний адрес не помнит. И ничего страшного. Зато люди, благодаря искусственному интеллекту, будут намного лучше «мыслить системно».

Спустя ещё несколько дней Хуанг сказал «Форбсу», что ничто не доставляет ему такой радости, как набросать кучу вопросов ИИ-модели, и та за три минуты выдаёт ему подробный доклад, на который раньше Хуангу потребовался бы целый день. «Вы быстрее становитесь более умным!» - порадовался один из самых авторитетных людей Кремниевой долины. («Я бы просто сказал, что президент полностью разделяет точку зрения Дженсена Хуанга», - говорил в сентябре министр финансов США Скотт Бессент.)

Спустя менее чем полтора месяца этот человек оказался в центре грязного полу-интимного, полу-шпионского скандала, лишился должности (но здесь есть нюансы), стал причиной падения стоимости акций Nvidia и героем насмешливых интернет-мемов. Сам этот скандал не только грязен, но и нелеп: Трампа ещё год назад предупреждали о возможных связях Хуанга с китайскими шпионами. И круговая порука (когда ИИ-разработчики по кругу финансируют друг друга) не была секретом задолго до того, как о ней заговорили в связи со скандалом. В общем, не буду притворяться, будто знаю, почему Хуанга решили «разоблачить» именно сейчас. Зато ясно другое: использование искусственного интеллекта не сделало Хуанга более умным и системным мыслителем.

Это разница между заявленным и действительным: человек, почему-либо обладающий авторитетом и властью, уверенно декларирует нечто, но за словами либо вообще ничего не стоит, либо их связь с реальностью очень сомнительна - «гладко было на бумаге, да забыли про овраги». Яркий пример: критическое мышление. Нам со всех сторон говорят, как оно важно. Мол, мы во всю ивановскую будем внедрять искусственный интеллект и притом сохранять критическое мышление. Да ИИ нам даже поможет сохранять критическое мышление! Мы его только используем для всяческого анализа и отмены скучной рутины, а решения будем принимать сами! Как это Герман Греф совсем недавно обозначил? «Помощник должен забрать на себя 90% организации и исполнения. Вы просто говорите, чего вы хотите достичь, и всё».

Но что вообще такое – критическое мышление? Это ведь не то, что вы всякое замечание встречаете критикой и скепсисом. Критическое мышление невозможно без опыта. Опыт невозможен без рутинной работы, без самостоятельного исследования. Когда вы не забудете про «овраги» в плане? Когда вы доподлинно знаете, что эти овраги существуют. И лучше всего вы будете про них помнить, когда вы их сами видели, по этим оврагам лазили. Вот тогда вы их точно не забудете. Это именно то, чего лишились китайские ученики, когда им дали искусственный интеллект: им больше не надо было самостоятельно мыкаться над трудностями. Конечно, это было легче. Удобнее. По некоторым простым параметрам – эффективнее. Но к «системному мышлению», «критическому мышлению» это не имеет никакого отношения.

И мы в России можем хоть каждый день говорить, что всячески внедрим искусственный интеллект в систему образования, но сохраним критическое мышление. На самом деле – нет. Не сохраним.

Руководитель Института содержания и методов обучения им. В.С. Леднёва Максим Костенко на днях сказал про школьный курс ИИ: «Содержание программ выстроено вокруг сквозной идеи: совет даёт искусственный интеллект, а решение и ответственность за его исполнение остаются за человеком. Из этого правила выводятся и темы, и формулировки планируемых результатов. Темы занятий последовательно иллюстрируют, что ответ модели не обладает самостоятельным моральным авторитетом, а перекладывание ответственности за собственные решения на алгоритм или сервис ИИ неприемлемо».

Не знаю: может быть, здесь речь уже о каких-то новых программах по ИИ, а не о тех, вышедших в 2025-26 гг. учебниках, которые я прочитала (и написала о них) весной. Потому что в тех были совсем другие «сквозные идеи»: искусственный интеллект – незаменимый помощник, без него не справиться, учитесь применять его для всего, в том числе для творчества и общения. Не удержусь привести две коротенькие цитаты из учебников: «В будущем, возможно, у каждого будет свой «ассистент» с искусственным интеллектом, который подскажет, что чувствует ваш собеседник, или предупредит о проблемах в отношениях». Это здорово, да, что детей приучают к мысли, что люди в будущем станут общаться посредством искусственного интеллекта, что им о чувствах друг друга будет рассказывать искусственный интеллект? Или не здорово?..

А вот ещё одно: «Несмотря на то, что искусственный интеллект решает многие задачи человечества, у него нет сознания. Он не ставит сам себе цели. Поэтому ни врагом, ни преступником искусственный интеллект быть не может». И такого там очень много. Искусственный интеллект в школьных учебниках последовательно преподносится как благо, употребимое везде – вот даже о чувствах собеседника он может рассказывать, – а зато врагом и преступником быть не может. Даже если для этого надо соврать, что ИИ не ставит себе цели (хоть он это много раз делал, выходя из-под контроля разработчиков).

Думаете, всё это развивает критическое мышление и «иллюстрирует, что ответ модели не обладает самостоятельным моральным авторитетом»? Наоборот: детей – да и взрослых – исподволь приучают к тому, что ответы ИИ-моделей авторитетны. Сперва они авторитетны «в качестве наставников» - но уже через шаг и «морально» тоже. Стоит вспомнить, как часто режиссёры или учёные, артисты или политики выступают в качестве моральных светил просто потому, что занимают выдающуюся позицию в своей области и иногда в самом деле талантливы. А дальше происходит перенос авторитета. И если вы приучаете детей на каждом шаге советоваться с искусственным интеллектом, приучаете, что он везде поможет, что он замечателен, что до ИИ люди мыкались со скучной рутиной, а с ИИ наконец-то свет увидали – можно сколько угодно твердить «решение и ответственность остаются за человеком», это будут пустые слова.

Возможно, это даже не ложь. Может быть, они искренне верят, что можно исследование передать искусственному интеллекту, а решение оставить за человеком, и такое решение будет чего-то стоить. Что можно «просто говорить, чего вы хотите достичь, и всё» - и при этом продолжать нести ответственность. Наверное, Дженсен Хуанг совершенно искренне думал, что у него отличное, улучшенное искусственным интеллектом, системное мышление. Может, его даже вернут в Nvidia: Илон Маск ведь прямо сказал, что очень многое в этой компании завязано не на проверяемые договорённости, а на личные контакты. И прямо сейчас «Блумберг» пишет, что происходит нечто ненормальное: инвесторы вкладывают деньги в технокорпорации, но вынуждены отказываться от принципа «владение даёт власть». Потому что влиять на ключевые решения они не могут. Вероятно, с точки зрения сверхмиллиардеров, поставить себя выше закона – умно и дальновидно. Но к ответственности и критическому мышлению это не имеет никакого отношения.

Quelle: Московский комсомолец ↗

Teilen

Mehr zu diesem Thema

Der Sohn von Dmitry Gudkov beging Selbstmord
GesellschaftDer Sohn von Dmitry Gudkov beging Selbstmord

Ivan Gudkov, der Sohn des Oppositionellen Dmitry Gudkov und seine erste Frau, Sophia Kapkova, beging Selbstmord. Ksenia Sobchak sagte, er habe über die Schwierigkeiten der Emigration berichtet

Яна Соловьева
Im Kämpfer MMA "Nikarho" aus dem Trauma im Zentrum von Vladikavkaz erschossen
GesellschaftIm Kämpfer MMA "Nikarho" aus dem Trauma im Zentrum von Vladikavkaz erschossen

Im Zentrum von Wladikawkaz wurde ein Mann verletzt, nachdem er aus einer traumatischen Pistole geschossen hatte, berichtet das Innenministerium für Nordossetien.

Виктория Хабарова, Александра Озерова
PCT meldete 23 Beschwerden von kranken Touristen aus einem Hotel in der Türkei
GesellschaftPCT meldete 23 Beschwerden von kranken Touristen aus einem Hotel in der Türkei

Seit August haben Versicherungsgesellschaften 23 Appelle von Touristen registriert, die im türkischen Hotel Bosporus Sorgun Urlaub machen, mit ähnlichen Beschwerden über einen schlechten Gesundheitszustand, sagte RBC im Pressedienst der Russischen Union der Reiseindustrie (PCT).

Евгения Сорокина, Виктория Хабарова
Der EIA-Briefing

Bleiben Sie jeden Morgen informiert.

Die wichtigsten Geschichten, ausgewählt von unseren Redakteuren — jeden Werktag vor 7 Uhr in Ihrem Postfach.

Kein Spam. Jederzeit abbestellbar.