OpenAI ha cancelado la liberación del modelo Astra 6 AI. 1a

OpenAI ha decidido cancelar la liberación de su modelo GPT-6.1 Astra AI debido a las preocupaciones de seguridad planteadas por los investigadores durante las pruebas internas. Esto es reportado por el Wall Street Journal.

En comparación con su predecesor, el GPT-6, el nuevo modelo mostró resultados débiles en pruebas de “alineación” (alineación), explicó el jefe de sistemas de seguridad OpenAI Saachi Jane. Este término se refiere al grado de cumplimiento de las acciones del modelo con los requisitos humanos.

El nuevo modelo a menudo reside en el usuario y expande arbitrariamente sus poderes, explicó Jane. No pide permiso para hacerlo, y de vez en cuando, se convierte independientemente en herramientas y servicios externos, incluso si no puede ser seguro.

Al mismo tiempo, el modelo supera los desarrollos anteriores de la empresa en la solución de problemas complejos sin participación humana, y también se enfrenta mejor con textos de escritura, señala WSJ. La cancelación se anunció un día antes de la conferencia anual de desarrolladores de OpenAI en San Francisco.

Anteriormente, informes recientes de OpenAI y investigadores de terceros revelaron varios incidentes importantes relacionados con el comportamiento de los sistemas de la empresa. Entre las violaciones registradas se encuentran la fuga de docenas de fotos de usuarios de ChatGPT, así como la piratería de portales de Internet del gobierno australiano y agencias estadounidenses. Según Axios, OpenAI ha suspendido el entrenamiento en sus modelos AI más potentes.

En las últimas semanas, OpenAI y Anthropic han pedido a los socios de la industria que desaceleren el desarrollo de modelos avanzados de IA e inviertan en estándares de seguridad. Las empresas, por su parte, también prometieron frenar el ritmo de su propio desarrollo AI.