Regelalgorithmen. Wie Computerintelligenz versucht, menschliches Verhalten zu kontrollieren

Geschichte ist ein Wechsel von Kriegen und Erfindungen. Aber die Vergangenheit ist auch eine Veränderung der Aneignung. Vor Tausenden von Jahren verwandelte der Sieger den Besiegten in einen Sklaven, nahm sein Land ein. Was nun? Heute versuchen sie, unsere Aufmerksamkeit, unsere Wünsche und unsere Fähigkeit, Entscheidungen zu treffen, zu bekommen. Ein neues Modell von Profit und Reichtum entsteht. Wohin führt das?

In den Lehrbüchern der politischen Ökonomie steht geschrieben: "Die Produktionsweise bestimmt die soziale Struktur der Gesellschaft." Wenn wir in den Kategorien der Eigentumsverhältnisse sprechen, um sich anzueignen, was in einer bestimmten Ära am wertvollsten ist.

In der Sklaverei war Muskelkraft wichtig. Überschussprodukt wurde starr extrahiert - mit einer Peitsche und Ketten. Während des Feudalismus wurde Land zur Hauptressource. Der Bauer war kein Ding mehr, aber er war an das Territorium gebunden. Das bedeutete formale Freiheit, aber keine Wahl. Die Miete (arbeitend, natürlich, monetär) nahm den Löwenanteil dessen, was produziert wurde. Die Aneignung und Umverteilung des Reichtums ist durch Sitte, Tradition und Gesetz eleganter geworden.

Der Kapitalismus brachte Paare, Werkzeugmaschinen und Manufakturen in die Welt. Der Zweck der Aneignung war materialisierte Arbeit. Der Arbeitnehmer ist formal frei. Er verkauft seine Zeit unter Vertrag, wird bezahlt. Aber der springende Punkt ist, dass er mehr Wert schafft als sein Essen, seine Kleidung, seine Unterkunft. Der sogenannte Mehrwert wurde vom Fabrikbesitzer übernommen.

Veruntreuung, oder grob gesagt Raub, wurde in der Kauf-Verkauf-Formel, in Diskussionen über faire Gewinnbeteiligung und in Risiken verborgen. Oft wurde der Arbeiter dazu gebracht zu denken, dass er ein Partner sei, aber in Wirklichkeit war er eine Ressource für den Besitzer der Produktionsmittel. Im Laufe der Geschichte war die treibende Kraft hinter allen sozialen Konflikten, Aufständen und Revolutionen der Wunsch, das System der Gewinnverteilung gerechter und gerechter zu machen. Heute markiert den Übergang zu einer neuen sozioökonomischen Formation. In der Sprache der politischen Ökonomie wird diese Periode als Phasenkrise bezeichnet. Es ist auf die Entstehung neuer Technologien zurückzuführen, die die alte Art der wirtschaftlichen Organisation der Gesellschaft ineffizient machen. Die Geschichte beweist, dass ein solcher Übergang oft nicht ruhig und glatt verläuft.

Zum Zeitpunkt des Zusammenbruchs des Sklavenhaltermodells hatte Rom bis zu 1 Million Einwohner. Die Stadt hatte Wasserversorgung und Abwassersysteme, öffentliche Bäder. Nach dem systemischen Zusammenbruch zählten die größten Städte des feudalen Europa kaum 50.000 Menschen. Die Menschheit war gezwungen, die funktionierende Wasserversorgung und Kanalisation für mindestens 800 Jahre zu vergessen.

Die Periode von 1453 bis 1648 nennen Historiker das "lange XVI Jahrhundert". Der Feudalismus riss aus den Nähten, und die neue kapitalistische Ordnung machte nur ihren Weg. Dies geschah mit dem geringsten Kompromiss. Zum Beispiel wurde im "erleuchteten" England nichts Besseres als "Gehäuse" gefunden, um die Wollindustrie zu starten. Zu diesem Zeitpunkt wurden die Bauern einfach vom Land vertrieben, um Schafe aufzuziehen. "Extra" Menschen starben nicht sofort. Sie schlossen sich einer Armee von Landstreichern an. In den Städten, in denen sie auf der Suche nach Arbeit flohen, herrschten überfüllte, unhygienische Bedingungen. Es gab Epidemien.

Der Zusammenbruch der UdSSR war auch eine Art „Phasenübergang für die ehemaligen sozialistischen Länder. Die Produktion brach fast überall zusammen, und Millionen von Menschen, erst gestern Ingenieure und Lehrer, handelten auf den Märkten, um Hunger zu vermeiden. Heute steht die globale Menschheit wieder einmal am Rande des Wandels. Aber dieser Prozess beginnt nicht durch die Umverteilung von Eigentum. Das Thema der Aneignung sind unsere Bedürfnisse. Im Rahmen der digitalen Transformation ist das Mobiltelefon nicht mehr nur ein Kommunikationsgerät. Jede Fingerbewegung, jede Pause vor einem Like, jede Suchanfrage wird gründlich analysiert. Die amerikanische Sozialpsychologin Shoshana Zuboff nannte es einen "Verhaltensüberschuss", den Unternehmen nutzen können, um Gewinne zu erzielen. Heute ermöglichen die gesammelten personenbezogenen Daten Unternehmen, vollständige Informationen nicht nur darüber zu erhalten, was Sie jetzt tun, sondern auch darüber, wie Ihr Verhalten in Zukunft aussehen wird. In der Industriezeit wurde Mehrwert durch die Arbeit der Arbeiter erzeugt. In der Information ist der Hauptwert nicht einmal eine Reihe von Daten, sondern Algorithmen zur Vorhersage des Verbraucherverhaltens und der Präferenzen. Was kaufen Sie eine Kaffeemaschine, welche Arbeit zu vereinbaren – Maschine

der Verstand kann dies vorhersagen, bevor sich der Einzelne seines Wunsches bewusst ist. Und dieses Wissen wird an den Zahler verkauft und in einen neuen Mehrwertgenerator verwandelt.

Wir sehen im kollektiven Westen Versuche, eine "instrumentale Macht" zu schaffen, die das gewünschte Ergebnis erzielt, nicht durch Zwang oder Änderung von Gesetzen, sondern durch die Korrektur, in wissenschaftlicher Hinsicht, "die Interaktion des Bürgers mit der Realität". Oder was als Realität wahrgenommen wird. Das größte Problem ist, dass während der Übergangszeit die "atomisierte Masse" von Menschen, die in der virtuellen Realitätswelt existieren wird, wachsen kann. Ihre Gedanken werden durch "billiges" Doping in Form eines absorbierenden endlosen Feeds von Nachrichten, Spielen, Erzählungen, fiktiven Ereignissen, illusorischen Konflikten und Errungenschaften kontrolliert. Und das Leben auf diese Weise wird zu einem Simulakrum, wo die Realität durch eine Schnittstelle ersetzt wird. Virtuelle Managementsysteme werden bereits aufgebaut. Bei Social Media geht es nicht nur um Kommunikation. Es ist die Architektur der Sucht. Empfehlungssysteme sind nicht nur eine Suche, sondern eher eine hypnotische Wirkung auf eine Person. Dating-Plattformen sind nicht so sehr eine Möglichkeit, neue Leute zu treffen, als eine Person von echtem Kontakt zu entwöhnen und ihn in die Illusion der Kommunikation einzutauchen. AI, im Großen und Ganzen, hilft Ihnen nicht zu denken - es denkt für die Person, die es die Frage stellt.

Das nennen politische Philosophen epistemische Ungleichheit. Es entsteht durch den Zugang zu Wissen über menschliches Verhalten, wo Technologieunternehmen mehr über uns wissen als über uns selbst. Diese Informationen können für das Management verwendet werden. Algorithmen sehen die Muster der Ängste und Schwächen jeder Person. Auf diese Weise greifen Sie durch ihre digitalen Fußabdrücke auf das Unterbewusstsein einer Person zu. Es ist die Macht der Vorhersage. Und seine Macht für die Gesellschaft muss noch vollständig verwirklicht werden. Souveränität der Wahl: Können diese Prozesse gestoppt werden? Kaum. Die Flut der Geschichte kehrt sich nicht um. Aber Sie können die Regeln des neuen Spiels verstehen und anpassen.

Der wirkliche Kampf ist der Kampf um die Souveränität des Willens. Wenn die Menschheit es Algorithmen erlaubt, unser Leben vollständig zu kontrollieren, werden wir aufhören, im vollen Sinne des Wortes menschlich zu sein. Virtuelle Realität greift in das Wertvollste ein, was eine Person hat - Freiheit und das Recht zu wählen. Daher besteht die Aufgabe für die Zukunft darin, eine neue Ethik und Gesetze zu schaffen, in denen festgelegt wird, dass die Verhaltensdaten der Person selbst gehören. Und es ist unantastbar. Andernfalls besteht die Gefahr, sich in der Verbrauchsmatrix aufzulösen.

THEMA

Unter dem Druck der Technologie verlagert sich der Besitz von Vermögenswerten und Ressourcen auf die Kontrolle der Zielsetzung und des Verhaltens. Dies ist viel subtiler und komplexer als die Peitsche des Sklavenhalters, die Ordnung des Feudalherrn oder die Aneignung des Wertes durch den Hersteller. Das System gibt einer Person einfach die Optionen, die für sie von Vorteil sind. Es formt die Umwelt und macht sie so, dass zum Beispiel der Verbraucher will, was für das Unternehmen von Vorteil ist, wenn man es als seine freie Wahl betrachtet.

Andrey Savinykh, Experte für Außenpolitik.