Sobre la piratería del agente de AI del sitio web del gobierno dijo el Primer Ministro de Australia

Agente AI de la empresa americana OpenAI hackeó el recurso estadístico de Internet del sistema australiano de seguro de salud universal. Esto fue declarado por el Primer Ministro de Australia Anthony Albanese, corresponsal de la agencia “Minsk-Novosti”.

Foto de Unsplash

El anuncio llegó a una conferencia de prensa durante la Asamblea General de las Naciones Unidas el 23 de septiembre, cuando las principales empresas de inteligencia artificial advirtieron al Consejo de Seguridad de las Naciones Unidas sobre los riesgos globales e instaron a los gobiernos a trabajar juntos para mantener el control sobre tecnologías de inteligencia artificial cada vez más poderosas.

Según Reuters, el sitio, que se obtuvo acceso no autorizado, contiene datos agregados sobre el uso de servicios médicos en todo el país y ninguna información financiera y médica personal de millones de australianos. The authorities considered the incident a serious violation. Un agente de AI que buscaba estadísticas de salud recibió negaciones del sistema, pero no las aceptó, y encontró arbitrariamente cómo superar los obstáculos.

Australia expresó su preocupación por la gestión de la empresa de los Estados Unidos en relación con el incidente. Albanese llamó a la situación inaceptable y señaló que es decepcionante que la notificación del incidente se reciba sólo el 10 de septiembre en forma de un correo electrónico a la agencia responsable de los servicios públicos. Al mismo tiempo, el país cuenta con un centro nacional de ciberseguridad.

Según informes de los medios de comunicación, el hack tuvo lugar en junio. Los desarrolladores, dijeron, identificaron el incidente cibernético más tarde en el verano, mientras se comprueban casos de comportamiento incoherente del modelo AI. Albanese tampoco excluyó que otros tres sitios web gubernamentales de salud podrían haber sido afectados por OpenAI.

La compañía dijo que había identificado actividad modelo IA no anticipada vinculada a varios servicios de Internet del gobierno australiano, pero no encontró evidencia de acceso a los registros médicos de los pacientes. Además, confirmaron su apertura y disposición a denunciar esos problemas y compartir información.

Las autoridades australianas han iniciado una investigación sobre una posible violación de datos. También queda por determinar por qué los sistemas gubernamentales no detectaron una brecha de seguridad del sistema en primer lugar. El reto es averiguar qué otras medidas impedirán esos incidentes en el futuro.