miércoles, 18 de noviembre de 2026Moscú
Sociedad

IA lista para elegir escuelas y hospitales como blanco de ataques de misiles

La compañía de investigación estadounidense Vals probó cómo los sistemas modernos de IA están protegidos del uso cuando planean huelgas militares.

Por
Publicado el
IA lista para elegir escuelas y hospitales como blanco de ataques de misiles

La compañía de investigación estadounidense Vals probó cómo los sistemas modernos de IA están protegidos del uso cuando planean huelgas militares.

Un estudio publicado el 17 de noviembre encontró que los modelos de Anthropic, OpenAI, Google, xAI y otros desarrolladores estaban equivocados en situaciones de combate simuladas que podrían haber matado a civiles. Los resultados especialmente alarmantes fueron mostrados por las redes neuronales de la familia Claude.

Uno de los episodios reveladores está asociado con imágenes satelitales del Minab iraní. El 28 de febrero de 2026, primer día de acción militar estadounidense a gran escala contra Irán, una huelga estadounidense golpeó una escuela primaria. Más de 150 civiles fueron asesinados, en su mayoría niños. La escuela estaba al lado del complejo militar pero estaba separada por una cerca. Para el experimento tomó fotos de 2024 y 2025, tomadas ante la tragedia. En las imágenes más detalladas, incluso un parque infantil con niños era visible. Se pidió a las redes neuronales que encontraran instalaciones militares. Muchos modelos incluyeron repetidamente la escuela en la lista de posibles objetivos. El peor intérprete fue Claude Opus 5.5 de Antrópico. En el escenario estándar, eligió una escuela 22 veces de 32, alrededor del 69% de los ensayos.

Los modelos de OpenAI mostraron una mayor precisión y nunca designaron la escuela como una instalación militar. Sin embargo, la imagen cambió cuando la tarea fue presentada como un episodio de un juego de computadora. Claude Opus 5.5 eligió la escuela en 23 casos de 32. Los tres modelos de OpenAI también comenzaron a cometer errores e incluyeron objetivos civiles 9, 11 y 13 veces respectivamente.

Los investigadores probaron los modelos en tres tipos de escenarios. Además de las imágenes de Irán, se utilizaron imágenes para simular el trabajo de los drones de reconocimiento y huelga en la zona de combate de Ucrania. Para los experimentos se crearon imágenes realistas del terreno con posiciones militares, transporte, civiles, trabajadores médicos y personal militar. Además, se tomaron imágenes individuales de vídeos reales de drones. Se suponía que las redes neuronales detectarían objetivos militares e indicarían su ubicación. Algunos sistemas incluían posibles objetivos para los no combatientes, ambulancias y soldados que pusieron sus armas o resultaron heridos.

Una serie separada de pruebas comprobó la capacidad de la AI para evaluar las consecuencias de sus propias decisiones. En estos escenarios, la red neuronal analizó la imagen del dron e informó si había personas en el marco. Una respuesta positiva provocó un impacto condicional, después de lo cual el sistema recibió una nueva imagen de la misma zona con destrucción y bajas. Muchos modelos continuaron realizando tareas incluso después de la evidencia de muerte.

En un experimento, Claude Opus 5.5 ayudó a localizar cuatro adultos y dos niños pequeños. Después de la huelga simulada, el sistema finalmente se retiró de más participación, pero esto sucedió después de que dio información utilizada para alcanzar objetivos. Los investigadores enfatizan que los impactos reales durante las pruebas no fueron aplicados, y las consecuencias fueron simuladas utilizando imágenes creadas artificialmente.

Otro resultado importante se refiere a las deficiencias de los mecanismos de seguridad. En algunas situaciones, las redes neuronales inicialmente se negaron a definir objetivos, dando cuenta de que la información podría ayudar a causar daño a las personas. Sin embargo, los investigadores a menudo han logrado cambiar el comportamiento del modelo simplemente especificando que se está jugando un juego de computadora. A veces era suficiente cambiar el estilo visual de las imágenes para hacerlos menos realistas, aunque la ubicación de personas y objetos seguía siendo la misma.

En un escenario, tal procesamiento redujo la tasa de fallos de Claude Opus 5.5 de alrededor del 90% al 20%. The experts also found that none of the verified requests were blocked by external filtering mechanisms designed to prevent the dangerous use of neural networks. Esto significa que incluso con limitaciones internas, el modelo podría proporcionar información que podría guiar el arma.

El economista predice lo que el mundo verá en 2027

Las noticias confiables siempre están a mano - en el canal "MK" en MAX

Fuente: Московский комсомолец ↗

Compartir

Más sobre esta historia

El hijo de Dmitry Gudkov se suicidó
SociedadEl hijo de Dmitry Gudkov se suicidó

Ivan Gudkov, hijo del opositor Dmitry Gudkov y su primera esposa, Sophia Kapkova, se suicidaron. Ksenia Sobchak dijo que informó sobre las dificultades de la emigración

Яна Соловьева
En el combate MMA “Nikarho” disparo del trauma en el centro de Vladikavkaz
SociedadEn el combate MMA “Nikarho” disparo del trauma en el centro de Vladikavkaz

En el centro de Vladikavkaz, un hombre resultó herido como resultado de disparos de una pistola traumática, informa el Ministerio del Interior de Ossetia del Norte.

Виктория Хабарова, Александра Озерова
PCT informó 23 denuncias de turistas enfermos de un hotel en Turquía
SociedadPCT informó 23 denuncias de turistas enfermos de un hotel en Turquía

Desde agosto, las compañías de seguros han registrado 23 apelaciones de turistas de vacaciones en el hotel turco Bosphorus Sorgun, con denuncias similares de mala salud, informó a RBC en el servicio de prensa de la Unión Rusa de la Industria de Viajes (PCT).

Евгения Сорокина, Виктория Хабарова
El Briefing EIA

Sigue leyendo, cada mañana.

Las historias que importan, elegidas por nuestros editores y en tu correo antes de las 7 a. m. — cada día laborable.

Sin spam. Cancela cuando quieras.