Algoritmos de control. Cómo la inteligencia informática está tratando de controlar el comportamiento humano

La historia es un cambio de guerras e inventos. Pero el pasado también es un cambio en la apropiación. Hace miles de años, el vencedor convirtió a los vencidos en esclavos, tomó su tierra. ¿Ahora qué? Hoy están tratando de conseguir nuestra atención, nuestros deseos y nuestra capacidad para tomar decisiones. Está surgiendo un nuevo modelo de ganancia y riqueza. ¿Dónde lleva eso?

En los libros de texto de la economía política se escribe: "El modo de producción determina la estructura social de la sociedad". Si hablamos en las categorías de relaciones de propiedad, apropiarnos de lo más valioso en una época particular.

En la esclavitud, la fuerza muscular era importante. El producto sobrante fue extraído rígidamente - con un látigo y cadenas. Durante el feudalismo, la tierra se convirtió en el principal recurso. El campesino ya no era nada, pero estaba atado a territorio. Esto significaba libertad formal, pero ninguna opción. El alquiler (trabajo, natural, monetario) tomó la parte del león de lo que se produjo. La apropiación y la redistribución de la riqueza se ha vuelto más elegante a través de la costumbre, la tradición y la ley.

El capitalismo trajo pares, máquinas herramientas y manufacturas al mundo. El objeto de la apropiación fue materializado trabajo. El trabajador es oficialmente libre. Vende su tiempo bajo contrato, se paga. Pero todo el punto es que crea más valor que su comida, su ropa, su vivienda. El denominado valor sobrante fue tomado por el propietario de la fábrica.

La malversación, o, aproximadamente hablando, el robo, se ha ocultado en la fórmula de compraventa, en discusiones sobre el reparto justo de beneficios, y en riesgos. A menudo el trabajador se hizo pensar que era un socio, pero en realidad era un recurso para el propietario de los medios de producción. A lo largo de la historia, la fuerza motriz detrás de todos los conflictos sociales, levantamientos y revoluciones ha sido el deseo de hacer que el sistema de distribución de beneficios sea más equitativo y equitativo. Hoy marca la transición, de hecho, a una nueva formación socioeconómica. En el lenguaje de la economía política, este período se denomina crisis de fase. Se debe al surgimiento de nuevas tecnologías que hacen ineficiente la vieja forma de organización económica de la sociedad. La historia demuestra que tal transición a menudo no es tranquila y suave.

Así que, en el momento del colapso del modelo de esclavización, Roma tenía hasta 1 millón de habitantes. La ciudad tenía sistemas de abastecimiento de agua y alcantarillado, baños públicos. Después del colapso sistémico, las ciudades más grandes de Europa feudal apenas contaban con 50.000 personas. La humanidad se vio obligada a olvidar el abastecimiento de agua y el alcantarillado durante al menos 800 años.

El período de 1453 a 1648 historiadores llaman el "siglo XVI largo". El feudalismo estaba rompiendo en las costuras, y el nuevo orden capitalista sólo estaba haciendo su camino. Esto se hizo con el mínimo compromiso. Por ejemplo, en Inglaterra “iluminada”, no se encontró nada mejor que “cerrar” para lanzar la industria de lana. Esto es cuando los campesinos simplemente fueron expulsados de la tierra para criar ovejas. "Extra" la gente no murió al instante. Se unían a un ejército de vagabundos. En las ciudades en las que huyeron en busca de trabajo, había condiciones multitudinarias e insalubres. Había epidemias.

El colapso de la URSS fue también una especie de “transición de fase” para los antiguos países socialistas. La manufactura colapsó casi por todas partes, y millones de personas, sólo ayer ingenieros y maestros, intercambiaron en los mercados para evitar la inanición. Hoy, la humanidad mundial está una vez más al borde del cambio. Pero este proceso no comienza por la redistribución de la propiedad. El tema de la apropiación es nuestras necesidades. Como parte de la transformación digital, el teléfono móvil ya no es sólo un dispositivo de comunicación. Cada movimiento de los dedos, cada pausa antes de igual, cada consulta de búsqueda se analiza a fondo. La psicóloga social estadounidense Shoshana Zuboff lo llamó “superávit conductual” que las empresas pueden utilizar para obtener ganancias. Hoy, los datos personales recopilados permiten a las empresas obtener información completa no sólo sobre lo que está haciendo ahora, sino también sobre lo que su comportamiento será en el futuro. En la era industrial, el valor añadido fue generado por el trabajo de los trabajadores. En la información, el valor principal no es ni siquiera un conjunto de datos, sino algoritmos para predecir el comportamiento y las preferencias del consumidor. Qué comprar un cafetera, qué trabajo aceptar – máquina

la mente puede predecir esto antes de que el individuo esté consciente de su deseo. Y ese conocimiento se vende al pagador y se convierte en un nuevo generador de valor añadido.

Vemos en el Occidente colectivo los intentos de crear un “poder instrumental” que obtiene el resultado deseado, no coaccionando o cambiando leyes, sino corrigiendo, en términos científicos, “la interacción del ciudadano con la realidad”. O lo que se percibe como realidad. El mayor problema es que durante el tiempo de transición, la “masa aatomizada” de personas que existirán en el mundo de la realidad virtual puede crecer. Sus pensamientos serán controlados por el dopaje “cheap” en forma de un alimento infinito absorbente de noticias, juegos, narrativas, eventos ficticios, conflictos ilusorios y logros. Y la vida de esta manera se convertirá en un simulacro, donde la realidad es reemplazada por una interfaz. Ya se están construyendo sistemas de gestión virtual. Los medios sociales no son sólo sobre comunicación. Es la arquitectura de la adicción. Los sistemas de recomendación no son sólo una búsqueda, es más como un efecto hipnótico en una persona. Las plataformas de citas no son tanto una manera de conocer gente nueva mientras desgasta a una persona de contacto real, inmerso en la ilusión de la comunicación. AI, por lo general, no te ayuda a pensar – piensa para la persona que lo hace la pregunta.

Esto es lo que los filósofos políticos llaman desigualdad epistémica. Se crea a través del acceso al conocimiento sobre el comportamiento humano, donde las empresas tecnológicas saben más sobre nosotros que nosotros mismos. Esta información se puede utilizar para la gestión. Los algoritmos ven los patrones de los miedos y debilidades de cada persona. Así es como accedes al subconsciente de una persona a través de sus huellas digitales. Es el poder de la predicción. Y su poder para la sociedad aún no se ha realizado plenamente. Soberanía de elección: ¿Se pueden detener estos procesos? Apenas. La marea de la historia no retrocede. Pero usted puede entender y ajustar las reglas del nuevo juego.

La verdadera lucha es la lucha por la soberanía de la voluntad. Si la humanidad permite que los algoritmos hagan nuestra vida completamente controlada, dejaremos de ser humanos en todo el sentido de la palabra. La realidad virtual se inculca en lo más precioso que una persona tiene – la libertad y el derecho a elegir. Por lo tanto, la tarea para el futuro es crear una nueva ética y leyes, donde se establecerá que los datos conductuales pertenecen a la persona misma. Y es intocable. De lo contrario, existe el peligro de disolver la matriz de consumo.

TEMA

Bajo la presión de la tecnología, hay un cambio de poseer activos y recursos para controlar el establecimiento de metas y el comportamiento. Esto es mucho más sutil y complejo que el látigo del dueño de esclavos, el orden del señor feudal o la apropiación del valor por el fabricante. El sistema simplemente da a una persona las opciones que son beneficiosas para él. Forma el medio ambiente y lo hace para que, por ejemplo, el consumidor desee lo que es beneficioso para la corporación, considerando su libre elección.

Andrey Savinykh, experto en política exterior.