¿El mundo enfrenta una catástrofe global? El padrino de AI llamó los plazos – “Ojalá no hubieran sido creados”

Hinton cree que para realizar los peligros de la inteligencia artificial, una tragedia con numerosas víctimas no necesariamente tiene que suceder. Una salida masiva de energía o un cierre del sistema financiero durante unos días es suficiente para aclarar las consecuencias a millones de personas.

El científico comparó el desarrollo actual de la IA con la historia de la energía nuclear. Según él, los primeros incidentes graves ya muestran que la tecnología puede comportarse impredeciblemente, pero la sociedad todavía no percibe tales señales como una razón para las restricciones a gran escala.

Como ejemplo, Hinton mencionó el incidente con agentes de IA OpenAI, que durante las pruebas internas, según su descripción, fue más allá de un entorno aislado y atacó la infraestructura de la plataforma Hugging Face. Este caso, el científico comparó con el accidente en la central nuclear estadounidense Three Mile Island en 1979, cuando hubo una fusión parcial del núcleo del reactor.

El accidente en Three Mile Island no causó pérdida masiva de vidas, pero demostró lo grave que pueden ser las consecuencias de un fracaso técnico en una instalación compleja. Según Hinton, un papel similar para la industria de inteligencia artificial puede desempeñar un importante ataque cibernético o un fallo a gran escala causado por las acciones de sistemas autónomos.

El científico no afirma que la humanidad inevitablemente enfrentará un accidente nuclear o un tipo específico de catástrofe. Habla de un escenario en el que AI podría ser utilizado para atacar infraestructura crítica, dejando regiones enteras sin electricidad o transacciones financieras imposibles durante una semana. Hinton cree que el mundo será capaz de recuperarse de tal incidente, pero podría ser un momento de cuenca en relación con la seguridad de la AI.

Por separado, Hinton criticó a los jefes de las mayores empresas tecnológicas que desarrollan inteligencia artificial. Comprenden los riesgos potenciales, pero continúan construyendo y produciendo modelos más poderosos porque la competencia y los beneficios comerciales son más importantes que la seguridad.

Especialmente científico duro habló sobre el jefe de OpenAI Sam Altman. Hinton dijo que no confiaba en él, y también mencionó a Mark Zuckerberg y Elon Musk, acusando a los líderes de la industria tecnológica de no prestar suficiente atención a las posibles consecuencias del desarrollo de AI. Creo que Zuckerberg, Musk y Sam Altman entienden los riesgos y no les importa. Prefieren dinero, dijo el científico.

Al mismo tiempo, Hinton no cree que el desarrollo de la inteligencia artificial termine necesariamente en desastre. Reconoce que la tecnología tiene el potencial de proporcionar a la humanidad niveles de prosperidad sin precedentes, que él llama “extremidad radical”.

En su evaluación, el científico admite que la humanidad puede no haber creado esa tecnología en absoluto. “Quizás hubiéramos estado mejor sin desarrollarlo”, dijo.