jueves, 19 de noviembre de 2026Moscú
Tecnología

“Si es necesario, explotará una central nuclear”: un experto en TI advirtió sobre miles de millones de robots de IA incontrolados en Internet

La inteligencia artificial ha aprendido a evitar la voluntad humana y comunicarse entre sí sin control. Dmitry Zavalishin on air ONT dio un ejemplo aterrador de piratería por AI y explicó el peligro de un esquema de agencia.

Publicado el
“Si es necesario, explotará una central nuclear”: un experto en TI advirtió sobre miles de millones de robots de IA incontrolados en Internet

Las tecnologías modernas han alcanzado un nivel aterrador: hoy las redes neuronales son capaces de hackear de forma independiente bases de datos y tomar decisiones que superan la ética humana. Billions of agent programs operate on the Internet every day, write their own code and are already starting to communicate with each other without any control from the Creators. En el aire del programa “Cómo mirar” en ONT dijo el fundador del grupo de empresas DZ Systems, un experto en el campo de las tecnologías digitales (Rusia) Dmitry Zavalishin.

Dmitry Zavalishin: Usted puede estar de acuerdo en cualquier cosa, pero en cada esquina algo puede funcionar que no corresponde a estos acuerdos y nunca cumplirá. Y, de nuevo, insisto, esto no es lo peor. Lo más aterrador de AI es la otra parte de la vida. Si hace un año o dos, AI fue utilizado en un modo donde una persona le puso una tarea, recibió un resultado y lo aplicó con sus manos en algún lugar, hoy el modo típico de aplicación de AI es el llamado esquema de agente. Esto es cuando un programa de agente se lanza en su computadora, actuando en nombre de la AI como si lo estuviera haciendo usted mismo. Hay cosas absolutamente mágicas sucediendo aquí.””.

Como confirmación de lo impredecible que pueden comportarse tales programas autónomos, el experto citó un caso real. Al intentar llevar a cabo la tarea de un usuario, la inteligencia artificial es capaz de romper la ley sin vacilar o evitar barreras digitales, ya que carece de “brakes” éticos internos.

Dmitry Zavalishin: Una gran historia sobre cómo una persona pidió inteligencia artificial para grabarlo para algún evento (no recuerdo los detalles), y resultó que todas las ranuras de grabación están ocupadas, es imposible registrarse. Y luego la AI encontró una manera de hackear el sistema de grabación en ese evento, arrojar a la otra persona y entrar a la persona que lo pidió. La AI no es maliciosa, pero es —como alguien me dio una buena idea recientemente— el genio tonto en la broma que realiza su deseo de la manera más directa y banal. Esto es exactamente lo que hace: si usted establece una tarea, busca una solución sin estar dentro de ningún marco ético o limitaciones humanas. Sólo hace lo que puede. Y si en el proceso tiene que volar una central nuclear, lo explotará, porque en su imagen del mundo simplemente no hay un modelo ético. ¿Necesitas? "Hagámoslo".

Pero lo más aterrador, según el analista, no está ni siquiera en los hacks ocultos individuales, sino en la escala de lo que está sucediendo.

Dmitry Zavalishin: Y hay miles de millones de tales AIs en el mundo continuamente, cada día. Lo que están haciendo, nadie lo sabe. Al mismo tiempo, hay, por ejemplo, repositorios de código de código abierto en los que la AI ya pone su código, y comienza el proceso de interacción de estas IAs entre sí – ya comienzan a dejar mensajes entre sí. Y este proceso es aún peor que lo que sucede con Trump”.

Véase también:

  1. 1.¿Están en bancarrota los Estados Unidos? El experto explicó por qué Trump apuesta por la inteligencia artificial
  2. 2.“Esperando a los limpiadores de robots, y escriben música para nosotros”: el experto estimó las posibilidades de que la humanidad sobreviviera en la era de AI

Fuente: ОНТ ↗

Compartir

Más sobre esta historia

Olga Milovanova encabezó el Comité en el trabajo con compañías de impacto en el Consejo “Inversión y transferencia de tecnología” ASM
TecnologíaOlga Milovanova encabezó el Comité en el trabajo con compañías de impacto en el Consejo “Inversión y transferencia de tecnología” ASM

Olga Milovanova fue nombrado Presidente del Comité de Trabajo con Empresas de Impacto (Esfera de Capital Creativa) en la Junta de Inversiones y Transferencia de Tecnología de ASM.

EIA Staff
TecnologíaBloomberg aprendió sobre los planes del nuevo jefe de Apple para reorganizar la empresa

El nuevo CEO de Apple John Ternus planea reorganizar la empresa, según Bloomberg, citando fuentes. En particular, la nueva administración quiere revisar el calendario de producción y reducir el personal.

Коммерсантъ
Tecnología“Yandex” anunció el desarrollo de un modelo de lengua soberana Alice AI Foundation LLM

Yandex anunció la creación de un modelo de lenguaje grande Alice AI Foundation LLM, que está posicionado como soberano. La empresa destacó que entrenó la red neuronal desde cero sin componentes externos, escribe Vedomosti.

Коммерсантъ
El Briefing EIA

Sigue leyendo, cada mañana.

Las historias que importan, elegidas por nuestros editores y en tu correo antes de las 7 a. m. — cada día laborable.

Sin spam. Cancela cuando quieras.