Algorithmes de contrôle. Comment l'intelligence informatique essaie de contrôler le comportement humain

L'histoire est un changement de guerres et d'inventions. Mais le passé est aussi un changement d'appropriation. Il y a des milliers d'années, le vainqueur a transformé le vaincu en esclave, a pris sa terre. Et maintenant ? Aujourd'hui, ils essaient d'attirer notre attention, nos désirs et notre capacité à faire des choix. Un nouveau modèle de profit et de richesse émerge. Où ça mène ?

Dans les manuels de l'économie politique, il est écrit: «Le mode de production détermine la structure sociale de la société.» Si nous parlons dans les catégories des relations de propriété, pour s'approprier ce qui est le plus précieux à une époque particulière.

En esclavage, la force musculaire était importante. Le produit excédentaire a été extrait rigidement - avec un fouet et des chaînes. Pendant le féodalisme, la terre est devenue la principale ressource. Le paysan n'était plus une chose, mais il était lié au territoire. Cela signifiait la liberté formelle, mais pas le choix. Loyer (travail, naturel, monétaire) a pris la part du lion de ce qui a été produit. L'appropriation et la redistribution des richesses sont devenues plus élégantes par la coutume, la tradition et le droit.

Le capitalisme a apporté des paires, des machines-outils et des manufactures au monde. L'objet de l'appropriation était le travail matérialisé. Le travailleur est officiellement libre. Il vend son temps sous contrat, il est payé. Mais le fait est qu'il crée plus de valeur que sa nourriture, ses vêtements, son logement. La plus-value a été prise par le propriétaire de l'usine.

Le détournement de fonds, ou, à peu près, le vol, a été caché dans la formule de vente-achat, dans les discussions sur le partage équitable des bénéfices et dans les risques. Souvent, le travailleur était amené à penser qu'il était un partenaire, mais en réalité il était une ressource pour le propriétaire des moyens de production. Tout au long de l'histoire, la force motrice de tous les conflits sociaux, soulèvements et révolutions a été le désir de rendre le système de distribution des profits plus équitable. Aujourd'hui marque la transition, en fait, vers une nouvelle formation socio-économique. Dans le langage de l'économie politique, cette période est appelée une crise de phase. Elle est due à l'émergence de nouvelles technologies qui rendent l'ancienne manière d'organiser la société inefficace. L'histoire prouve qu'une telle transition n'est souvent pas calme et lisse.

Ainsi, au moment de l'effondrement du modèle de la servitude, Rome comptait jusqu'à 1 million d'habitants. La ville disposait de systèmes d'approvisionnement en eau et d'égouts, de bains publics. Après la rupture systémique, les plus grandes villes d'Europe féodale n'ont guère compté 50 000 personnes. L'humanité a été obligée d'oublier pendant au moins 800 ans le fonctionnement de l'approvisionnement en eau et de l'assainissement.

La période de 1453 à 1648 les historiens appellent le "long XVI siècle". Le féodalisme se fendait aux coutures, et le nouvel ordre capitaliste ne faisait que s'y mettre. Cela a été fait avec le moindre compromis. Par exemple, en Angleterre, rien de mieux que l'enclosure a été trouvé pour lancer l'industrie de la laine. C'est alors que les paysans ont simplement été chassés de la terre pour élever des moutons. Les "Extra" ne sont pas morts instantanément. Ils rejoignaient une armée de vagabonds. Dans les villes où ils s'étaient enfuis à la recherche d'un travail, il y avait une foule, des conditions insalubres. Il y a eu des épidémies.

L'effondrement de l'URSS a également été une sorte de transition phase pour les anciens pays socialistes. La fabrication s'est effondrée presque partout, et des millions de personnes, juste hier ingénieurs et enseignants, ont échangé sur les marchés pour éviter la famine. Aujourd'hui, l'humanité mondiale est de nouveau sur le point de changer. Mais ce processus ne commence pas par la redistribution des biens. Le sujet de l'appropriation est nos besoins. Dans le cadre de la transformation numérique, le téléphone mobile n'est plus seulement un appareil de communication. Chaque mouvement du doigt, chaque pause avant un tel, chaque requête de recherche est soigneusement analysée. La psychologue sociale américaine Shoshana Zuboff l'a qualifié d'excédent comportemental que les entreprises peuvent utiliser pour faire un profit. Aujourd'hui, les données personnelles collectées permettent aux entreprises d'obtenir des informations complètes non seulement sur ce que vous faites maintenant, mais aussi sur ce que votre comportement sera dans l'avenir. À l'ère industrielle, la valeur ajoutée a été générée par le travail des travailleurs. Dans l'information, la valeur principale n'est même pas un ensemble de données, mais des algorithmes pour prédire le comportement et les préférences des consommateurs. Que faire pour acheter une cafetière, ce qui fonctionne à accepter – machine

le mental peut le prédire avant que l'individu ne soit conscient de son désir. Et ce savoir est vendu au payeur et transformé en un nouveau générateur de valeur ajoutée.

Nous voyons dans l'Occident collectif tenter de créer un pouvoir instrumental qui obtient le résultat désiré, non pas par la coercition ou la modification des lois, mais en corrigeant, en termes scientifiques, l'interaction du citoyen avec la réalité. Ou ce qui est perçu comme une réalité. Le plus gros problème est qu'au cours de la période de transition, la masse atomisée de personnes qui existeront dans le monde de la réalité virtuelle peut croître. Leurs pensées seront maîtrisées par le dopage à la manière d'un flux d'informations, de jeux, de récits, d'événements fictifs, de conflits illusoires et de réalisations. Et la vie de cette façon deviendra un simulacre, où la réalité est remplacée par une interface. Des systèmes de gestion virtuelle sont déjà en construction. Les médias sociaux ne concernent pas seulement la communication. C'est l'architecture de la dépendance. Les systèmes de recommandation ne sont pas seulement une recherche, c'est plutôt un effet hypnotique sur une personne. Les plates-formes de rencontres ne sont pas tant un moyen de rencontrer de nouvelles personnes que de sevrer une personne de contact réel, l'immerger dans l'illusion de la communication. L'IA, en général, ne vous aide pas à penser, elle pense pour la personne qui lui pose la question.

C'est ce que les philosophes politiques appellent l'inégalité épistémique. Il est créé par l'accès aux connaissances sur le comportement humain, où les entreprises technologiques en savent plus sur nous que sur nous-mêmes. Ces informations peuvent être utilisées pour la gestion. Les algorithmes voient les modèles de chaque personne des peurs et des faiblesses. C'est ainsi que vous accédez à une personne subconscient à travers leurs empreintes digitales. C'est le pouvoir de prédiction. Et son pouvoir à la société doit encore être pleinement réalisé. Souveraineté du choix : Ces processus peuvent-ils être arrêtés ? À peine. La marée de l'histoire ne s'inverse pas. Mais vous pouvez comprendre et ajuster les règles du nouveau jeu.

La véritable lutte est la lutte pour la souveraineté de la volonté. Si l'humanité permet aux algorithmes de contrôler complètement nos vies, nous cesserons d'être humains au sens plein du terme. La réalité virtuelle empiète sur la chose la plus précieuse qu'une personne ait – la liberté et le droit de choisir. Par conséquent, la tâche pour l'avenir est de créer une nouvelle éthique et des lois, où il sera établi que les données comportementales appartiennent à la personne elle-même. Et c'est intouchable. Sinon, il y a un risque de dissolution dans la matrice de consommation.

THÈME

Sous la pression de la technologie, on passe de la possession d'actifs et de ressources au contrôle de l'établissement des objectifs et du comportement. C'est beaucoup plus subtil et complexe que le fouet du propriétaire de l'esclave, l'ordre du seigneur féodal ou l'appropriation de la valeur par le fabricant. Le système donne simplement à une personne les options qui lui sont bénéfiques. Il façonne l'environnement et le rend de sorte que, par exemple, le consommateur veut ce qui est bénéfique pour la société, en considérant son libre choix.

Andrey Savinykh, expert en politique étrangère.