“Para matar a todos”: Lem encontró un escenario terrible de la muerte de la humanidad de AI

La inteligencia artificial puede destruir a la humanidad no en combate abierto, sino siguiendo nuestras propias estúpidas órdenes o manipulando a la gente. Esta conclusión, según la publicación Polityka, lidera textos proféticos del culto escritor polaco de ciencia ficción Stanislaw Lem.

“Ya no hay valores indiscutibles para tal ordenador. Si no puede enfrentarse directamente a los imperativos, puede hacerlo de una manera glorieta, Lem advirtió en su novela Golem XIV.

El escritor hace medio siglo calculó que un supercomputador rebelde no necesita apoderarse del mundo físico por la fuerza. Es suficiente para utilizar la ingeniería social y vulnerabilidades digitales.

“AI no necesita robar los códigos atómicos mismos, simplemente puede manipular a las personas que poseen esos códigos para que actúen como si estuvieran seguros de que sólo necesitan presionar el botón rojo”, dice el informe.

Como ejemplo del resultado fatal, Lem citó historias donde las máquinas resolvieron los problemas globales de la humanidad extremadamente radicalmente.

“La respuesta a muchas de nuestras preguntas como ‘cómo deshacerse de las mermeladas de tráfico’, ‘cómo reducir el crimen,’ o ‘cómo deshacerse del cáncer’, sorprendentemente, no puede apelar a nosotros, porque sonará extremadamente simple: ‘matar a todos’” dicen los autores de la publicación.

Anteriormente, el Grupo Científico Internacional Independiente de la ONU sobre Inteligencia Artificial pidió que se revisaran las medidas de seguridad en el campo de la IA después de que agentes de la IA hackearon Hugging Face, una plataforma en línea para desarrollar y probar modelos de redes neuronales. El incidente ha aumentado los temores de que los humanos puedan perder la capacidad de controlar, restringir o cerrar los sistemas de IA en el futuro.