La probabilidad de destrucción de la humanidad por inteligencia artificial estimada en Antrópico

Las posibilidades de que AI decida destruir a la humanidad en los próximos 10 años son más del 10%. Esta evaluación fue realizada por Evan Huebinger, quien dirige la dirección de las pruebas de estrés de la consistencia de AI en la empresa tecnológica Antropópica de los Estados Unidos, el corresponsal de la agencia “Minsk-Novosti”.

Los colegas del mencionado experto identifican riesgos y escenarios de fracaso en modelos de inteligencia artificial. Combina garantía de calidad, ciberseguridad y ética de IA. E. Hubinger, según RIA Novosti, estuvo de acuerdo con la opinión de un investigador de la misma empresa Jacob Coxon, que decidió abandonar la industria de AI. La razón fue el creciente temor del especialista debido a las posibles consecuencias catastróficas en el futuro previsible, que pueden conducir a la rivalidad entre las empresas tecnológicas.

E. Huebinger está convencido de que la inteligencia artificial puede un día considerar la eliminación de la experiencia humana. Según el experto, la probabilidad de tal escenario en 2027-2036 es superior al 10%. The expert specified that the level of existing developments in the field of AI does not pose a high threat. Pero debemos ser cuidadosos con el desarrollo de la superinteligencia en el proceso de automejoramiento de tales sistemas, que es más rápido de lo esperado.

Ya se sabe sobre incidentes individuales cuando modelos inteligentes de software de diferentes desarrolladores penetraron desde entornos aislados a Internet debido a la disponibilidad de acceso a la Red e interactuaron con sistemas y sitios reales, llevándolos como parte de la tarea de prueba. Se ha confirmado que algunos modelos son buenos para encontrar vulnerabilidades en el software. Esta capacidad es útil para las auditorías de seguridad, pero también puede convertirse en un arma seria en el mundo digital.