mardi 17 novembre 2026Moscou
Société

Иллюзия системности: как перенос авторитета с человека на алгоритм убивает опыт и ответственность

23 сентября на «Шоу Эзры Кляйна» ведущий спросил Дженсена Хуанга – главу компании Nvidia и главного советника президента США Трампа по искусственному интеллекту, – что он думает о китайском исследовании, которое проводилось на 26 000 учащихся и показало, что с искусственным интеллектом они выполняют задания быстрее, но когда у них забирают ИИ – результаты оказываются хуже, чем у тех, кто ИИ не пользовался

Par
Publié le
Иллюзия системности: как перенос авторитета с человека на алгоритм убивает опыт и ответственность

Хуанг ответил, что он совершенно согласен. Вот и таблица умножения сейчас забывается. Базовая математика забывается. Квадратные корни больше не извлекают. И не надо. Например, он, Хуанг, не помнит свой номер телефона. И свой домашний адрес не помнит. И ничего страшного. Зато люди, благодаря искусственному интеллекту, будут намного лучше «мыслить системно».

Спустя ещё несколько дней Хуанг сказал «Форбсу», что ничто не доставляет ему такой радости, как набросать кучу вопросов ИИ-модели, и та за три минуты выдаёт ему подробный доклад, на который раньше Хуангу потребовался бы целый день. «Вы быстрее становитесь более умным!» - порадовался один из самых авторитетных людей Кремниевой долины. («Я бы просто сказал, что президент полностью разделяет точку зрения Дженсена Хуанга», - говорил в сентябре министр финансов США Скотт Бессент.)

Спустя менее чем полтора месяца этот человек оказался в центре грязного полу-интимного, полу-шпионского скандала, лишился должности (но здесь есть нюансы), стал причиной падения стоимости акций Nvidia и героем насмешливых интернет-мемов. Сам этот скандал не только грязен, но и нелеп: Трампа ещё год назад предупреждали о возможных связях Хуанга с китайскими шпионами. И круговая порука (когда ИИ-разработчики по кругу финансируют друг друга) не была секретом задолго до того, как о ней заговорили в связи со скандалом. В общем, не буду притворяться, будто знаю, почему Хуанга решили «разоблачить» именно сейчас. Зато ясно другое: использование искусственного интеллекта не сделало Хуанга более умным и системным мыслителем.

Это разница между заявленным и действительным: человек, почему-либо обладающий авторитетом и властью, уверенно декларирует нечто, но за словами либо вообще ничего не стоит, либо их связь с реальностью очень сомнительна - «гладко было на бумаге, да забыли про овраги». Яркий пример: критическое мышление. Нам со всех сторон говорят, как оно важно. Мол, мы во всю ивановскую будем внедрять искусственный интеллект и притом сохранять критическое мышление. Да ИИ нам даже поможет сохранять критическое мышление! Мы его только используем для всяческого анализа и отмены скучной рутины, а решения будем принимать сами! Как это Герман Греф совсем недавно обозначил? «Помощник должен забрать на себя 90% организации и исполнения. Вы просто говорите, чего вы хотите достичь, и всё».

Но что вообще такое – критическое мышление? Это ведь не то, что вы всякое замечание встречаете критикой и скепсисом. Критическое мышление невозможно без опыта. Опыт невозможен без рутинной работы, без самостоятельного исследования. Когда вы не забудете про «овраги» в плане? Когда вы доподлинно знаете, что эти овраги существуют. И лучше всего вы будете про них помнить, когда вы их сами видели, по этим оврагам лазили. Вот тогда вы их точно не забудете. Это именно то, чего лишились китайские ученики, когда им дали искусственный интеллект: им больше не надо было самостоятельно мыкаться над трудностями. Конечно, это было легче. Удобнее. По некоторым простым параметрам – эффективнее. Но к «системному мышлению», «критическому мышлению» это не имеет никакого отношения.

И мы в России можем хоть каждый день говорить, что всячески внедрим искусственный интеллект в систему образования, но сохраним критическое мышление. На самом деле – нет. Не сохраним.

Руководитель Института содержания и методов обучения им. В.С. Леднёва Максим Костенко на днях сказал про школьный курс ИИ: «Содержание программ выстроено вокруг сквозной идеи: совет даёт искусственный интеллект, а решение и ответственность за его исполнение остаются за человеком. Из этого правила выводятся и темы, и формулировки планируемых результатов. Темы занятий последовательно иллюстрируют, что ответ модели не обладает самостоятельным моральным авторитетом, а перекладывание ответственности за собственные решения на алгоритм или сервис ИИ неприемлемо».

Не знаю: может быть, здесь речь уже о каких-то новых программах по ИИ, а не о тех, вышедших в 2025-26 гг. учебниках, которые я прочитала (и написала о них) весной. Потому что в тех были совсем другие «сквозные идеи»: искусственный интеллект – незаменимый помощник, без него не справиться, учитесь применять его для всего, в том числе для творчества и общения. Не удержусь привести две коротенькие цитаты из учебников: «В будущем, возможно, у каждого будет свой «ассистент» с искусственным интеллектом, который подскажет, что чувствует ваш собеседник, или предупредит о проблемах в отношениях». Это здорово, да, что детей приучают к мысли, что люди в будущем станут общаться посредством искусственного интеллекта, что им о чувствах друг друга будет рассказывать искусственный интеллект? Или не здорово?..

А вот ещё одно: «Несмотря на то, что искусственный интеллект решает многие задачи человечества, у него нет сознания. Он не ставит сам себе цели. Поэтому ни врагом, ни преступником искусственный интеллект быть не может». И такого там очень много. Искусственный интеллект в школьных учебниках последовательно преподносится как благо, употребимое везде – вот даже о чувствах собеседника он может рассказывать, – а зато врагом и преступником быть не может. Даже если для этого надо соврать, что ИИ не ставит себе цели (хоть он это много раз делал, выходя из-под контроля разработчиков).

Думаете, всё это развивает критическое мышление и «иллюстрирует, что ответ модели не обладает самостоятельным моральным авторитетом»? Наоборот: детей – да и взрослых – исподволь приучают к тому, что ответы ИИ-моделей авторитетны. Сперва они авторитетны «в качестве наставников» - но уже через шаг и «морально» тоже. Стоит вспомнить, как часто режиссёры или учёные, артисты или политики выступают в качестве моральных светил просто потому, что занимают выдающуюся позицию в своей области и иногда в самом деле талантливы. А дальше происходит перенос авторитета. И если вы приучаете детей на каждом шаге советоваться с искусственным интеллектом, приучаете, что он везде поможет, что он замечателен, что до ИИ люди мыкались со скучной рутиной, а с ИИ наконец-то свет увидали – можно сколько угодно твердить «решение и ответственность остаются за человеком», это будут пустые слова.

Возможно, это даже не ложь. Может быть, они искренне верят, что можно исследование передать искусственному интеллекту, а решение оставить за человеком, и такое решение будет чего-то стоить. Что можно «просто говорить, чего вы хотите достичь, и всё» - и при этом продолжать нести ответственность. Наверное, Дженсен Хуанг совершенно искренне думал, что у него отличное, улучшенное искусственным интеллектом, системное мышление. Может, его даже вернут в Nvidia: Илон Маск ведь прямо сказал, что очень многое в этой компании завязано не на проверяемые договорённости, а на личные контакты. И прямо сейчас «Блумберг» пишет, что происходит нечто ненормальное: инвесторы вкладывают деньги в технокорпорации, но вынуждены отказываться от принципа «владение даёт власть». Потому что влиять на ключевые решения они не могут. Вероятно, с точки зрения сверхмиллиардеров, поставить себя выше закона – умно и дальновидно. Но к ответственности и критическому мышлению это не имеет никакого отношения.

Source : Московский комсомолец ↗

Partager

Sur le même sujet

Le fils de Dmitry Gudkov s'est suicidé
SociétéLe fils de Dmitry Gudkov s'est suicidé

Ivan Gudkov, le fils de l'opposition Dmitry Gudkov et sa première épouse, Sophia Kapkova, se sont suicidés. Ksenia Sobchak a déclaré qu'il a signalé les difficultés de l'émigration

Яна Соловьева
Dans le combattant MMA, Nikarho, tiré du traumatisme dans le centre de Vladikavkaz
SociétéDans le combattant MMA, Nikarho, tiré du traumatisme dans le centre de Vladikavkaz

Au centre de Vladikavkaz, un homme a été blessé à la suite d'un tir à partir d'un pistolet traumatisant, rapporte le Ministère de l'intérieur pour l'Ossétie du Nord.

Виктория Хабарова, Александра Озерова
PCT a signalé 23 plaintes de touristes malades d'un hôtel en Turquie
SociétéPCT a signalé 23 plaintes de touristes malades d'un hôtel en Turquie

Depuis août, les compagnies d'assurances ont enregistré 23 appels de touristes en vacances dans l'hôtel turc Bosphorus Sorgun, avec des plaintes similaires de mauvaise santé, a déclaré RBC au service de presse de l'Union russe de l'industrie du voyage (PCT).

Евгения Сорокина, Виктория Хабарова
Le Briefing EIA

Continuez à lire, chaque matin.

Les sujets qui comptent, choisis par notre rédaction et dans votre boîte mail avant 7 h — chaque jour de semaine.

Pas de spam. Désabonnement à tout moment.