Алгоритмы контроля. Как через компьютерный разум пытаются управлять поведением людей

Есть точка зрения, что история — это смена войн и изобретений. Но прошлое — это еще и смена процесса присвоения. Тысячи лет назад победитель превращал побежденного в раба, забирал его землю. А что теперь? Сегодня пытаются заполучить наше внимание, наши желания и нашу способность делать выбор. Зарождается новая модель получения прибыли, богатства. К чему это ведет?

Движущая сила революций В учебниках политэкономии написано: «Способ производства определяет социальную структуру общества». Если говорить в категориях имущественных отношений, присваивать стремятся то, что является самым ценным в конкретную эпоху.

Так, при рабовладении важной была мускульная сила. Прибавочный продукт добывался жестко — кнутом и цепями. Во времена феодализма главным ресурсом стала земля. Крестьянин уже не был вещью, но он был привязан к территории. Это означало формальную свободу, но — без выбора. Рента (отработочная, натуральная, денежная) забирала львиную долю того, что производилось. Присвоение и перераспределение богатства стало более «изящным» — через обычай, традиции, закон.

Капитализм принес миру пар, станки и мануфактуры. Объектом присвоения стал овеществленный труд. Рабочий формально свободен. Он продает свое время по контракту, получает зарплату. Но вся соль в том, что он создает ценность существенно бóльшую, чем его еда, одежда, жилье. Так называемую прибавочную стоимость забирал владелец фабрики.

Присвоение, или, грубо говоря, грабеж, оказалось спрятанным в формуле «купи-продай», в дискуссиях о справедливом распределении прибыли, рисках. Часто рабочего пытались заставить думать, что он партнер, а на самом деле он при капитализме — ресурс для владельца средств производства. На протяжении всей истории движущей силой всех социальных конфликтов, восстаний и революций было стремление сделать систему распределения прибыли более справедливой и равномерной. Цена кризисов Сегодня обозначается переход, по сути, к новой общественно-экономической формации. На языке политэкономической науки этот период именуют фазовым кризисом. Он обусловлен появлением новых технологий, которые делают старый способ экономической организации общества неэффективным. История доказывает, что такой переход зачастую не бывает тихим и гладким.

Так, к моменту крушения рабовладельческой модели Рим насчитывал до 1 миллиона жителей. Город имел системы водоснабжения и канализации, общественные бани. После системного слома крупнейшие города феодальной Европы едва ли насчитывали 50 тысяч человек. А о функционирующем водопроводе и канализации человечество было вынуждено забыть минимум на 800 лет.

Период с 1453 по 1648 год историки называют «длинным XVI веком». Феодализм трещал по швам, а новый капиталистический уклад только пробивал себе дорогу. Делалось это жестко и без малейших компромиссов. Например, в «просвещенной» Англии для запуска шерстяной промышленности не нашли ничего лучше «огораживания». Это когда крестьян просто сгоняли с земли, чтобы разводить овец. «Лишние» люди не умирали мгновенно. Они пополняли армию бродяг. В городах, куда они бежали в поисках работы, была скученность, антисанитария. Там вспыхивали эпидемии.

Распад СССР стал для бывших стран соцлагеря также своеобразным «фазовым переходом». Производство практически повсеместно рухнуло, а миллионы людей, еще вчера инженеры и учителя, торговали на рынках, чтобы не умереть с голоду. Сегодня глобальное человечество опять стоит на пороге перемен. Но этот процесс запускается не через передел собственности. Предметом присвоения становятся наши потребности. Надзорный капитализм В рамках цифровой трансформации мобильный телефон перестает быть просто устройством связи. Каждое движение пальца, каждая пауза перед лайком, каждый поисковый запрос тщательнейшим образом анализируется. Американский социальный психолог Шошана Зубофф назвала это «поведенческим излишком», который компании могут использовать для извлечения прибыли. Сегодня собираемые персональные данные позволяют корпорациям получить полную информацию не только о том, что вы делаете сейчас, но и о том, каким будет ваше поведение в будущем. В индустриальную эпоху добавленная стоимость формировалась за счет труда рабочих. В информационную главной ценностью становится даже не массив данных, а алгоритмы предсказания поведения потребителя и его предпочтений. Какую купить кофеварку, на какую работу согласиться — машинный

разум это может предсказать до того, как индивидуум осознает свое желание. И это знание продается тому, кто заплатит, и превращается в новый генератор добавленной стоимости.

Мы видим на коллективном Западе попытки создания «инструментальной власти», которая получает нужный результат, не принуждая, не изменяя законы, а корректируя, говоря научным языком, «взаимодействие гражданина с реальностью». Или с тем, что воспринимается как реальность. Цифровые следы Самая большая проблема заключается в том, что в переходное время может расти «атомизированная масса» людей, которая будет существовать в мире виртуальной реальности. Их мысли будут контролироваться «дешевым» допингом в виде поглощающей бесконечной ленты новостей, игр, нарративов, вымышленных событий, иллюзорных конфликтов и достижений. И жизнь таким образом превратится в симулякр, где реальность подменяется интерфейсом. Виртуальные системы управления людьми уже строятся. Социальные сети — это не только общение. Это архитектура зависимости. Рекомендательные системы не просто поиск, это скорее напоминает гипнотическое воздействие на человека. Площадки для знакомств не столько способ встретить новых людей, сколько отучение человека от реального контакта, погружение его в иллюзию общения. ИИ, по большому счету, не помогает думать — он думает за того, кто задает ему вопрос.

Возникает тенденция, которую политические философы называют эпистемическим неравенством. Оно создается через доступ к знанию о человеческом поведении, когда технологические корпорации знают о нас больше, чем мы о себе. И сведения эти могут использоваться для управления. Алгоритмы видят паттерны страхов и слабостей каждого человека. Так получается доступ к подсознанию человека через его же цифровые следы. Это власть предсказания. И ее силу обществу еще предстоит осознать в полной мере. Суверенитет выбора Можно ли эти процессы остановить? Вряд ли. Волна истории не поворачивает вспять. Но можно понять и скорректировать правила новой игры.

Настоящая борьба — это борьба за суверенитет воли. Если человечество позволит алгоритмам сделать нашу жизнь полностью контролируемой, мы перестанем быть людьми в полном смысле этого слова. Виртуальная реальность посягает на самое ценное, что есть у человека, — свободу и право выбора. Поэтому задача на перспективу — создать новую этику и законы, где будет заложено, что поведенческие данные принадлежат самому человеку. И это неприкосновенно. Иначе есть опасность раствориться в матрице потребления.

В ТЕМУ

Под давлением технологий осуществляется переход от владения активами и ресурсами к контролю над целеполаганием и поведением. Это гораздо тоньше и сложнее, чем кнут рабовладельца, приказ феодала или присвоение стоимости фабрикантом. Система просто подсовывает человеку именно те варианты, которые ей выгодны. Она формирует среду и делает так, чтобы, например, потребитель захотел то, что выгодно корпорации, считая это своим свободным выбором.

Андрей САВИНЫХ, эксперт по внешней политике.