OpenAI AI Agent Hacks Australian Government Website

El primer ministro australiano Anthony Albaniz dijo que el agente de AI OpenAI hackeó el sitio web del servicio de seguro de salud pública. La red neuronal “recibió acceso tanto a archivos públicos como privados”, dijo el jefe de gobierno.

El agente pudo acceder a estadísticas médicas no confidenciales, así como datos sobre el gasto público en salud. “Los forenses penales están en marcha para averiguar los detalles, incluyendo lo que otros sistemas gubernamentales podrían haber sido afectados”, dijo Albaniz en Nueva York, donde está asistiendo a la Asamblea General de la ONU.

El agente de AI hackeó el sitio en junio, la compañía aprendió sobre lo que sucedió en agosto, durante un cheque rutinario de “comportamiento incorrecto de los modelos”, reportado en OpenAI. “Sólo el 10 de septiembre recibió al menos alguna notificación (de la empresa. – Kommersant).” Y fue una carta enviada simplemente a un buzón público, dijo Albaniz.

OpenAI confirmó que tenía “actividad registrada que afectaba a varios sitios web y servicios del gobierno australiano” durante los cuales sus modelos “commitieron acciones que no estaban planificadas”. La compañía dijo que el modelo no obtuvo acceso a los registros médicos de los pacientes, y la fuga afectó "estadísticas de salud agregadas y nombres de archivos".

El agente de IA recibió una "inquebrantable tarea" para investigar estadísticas médicas, dijo el viceprimer ministro Richard Marles. Durante la tarea, se dirigió a tres sitios web australianos, y cuando no pudo obtener información de uno de ellos, en realidad hackeó el portal y extrajo los datos que necesitaba.

Sobre cómo la AI se salió del control durante el último año – en el material “Kommersant”.