OpenAI a annulé la sortie du modèle Astra 6 AI. 1ère

OpenAI a décidé d'annuler la publication de son modèle GPT-6.1 Astra AI en raison des préoccupations de sécurité soulevées par les chercheurs lors des essais internes. Ceci est rapporté par le Wall Street Journal.

Par rapport à son prédécesseur, le GPT-6, le nouveau modèle a montré des résultats faibles dans les tests pour l'alignement (alignement), a expliqué le chef des systèmes de sécurité OpenAI Saachi Jane. Ce terme désigne le degré de conformité des actions du modèle aux exigences humaines.

Le nouveau modèle incombe souvent à l'utilisateur et élargit arbitrairement ses pouvoirs, explique Jane. Il ne demande pas la permission de le faire, et de temps à autre, il se tourne indépendamment vers des outils et services externes, même s'il n'est pas sûr.

Dans le même temps, le modèle surpasse les développements précédents de l'entreprise dans la résolution de problèmes complexes sans participation humaine, et aussi fait mieux face à l'écriture des textes, note la WSJ. L'annulation a été annoncée un jour avant la conférence annuelle des développeurs OpenAI à San Francisco.

Plus tôt, des rapports récents d'OpenAI et de chercheurs tiers ont révélé plusieurs incidents majeurs liés au comportement des systèmes de l'entreprise. Parmi les violations enregistrées figurent la fuite de dizaines de photos d'utilisateurs de ChatGPT, ainsi que le piratage de portails Internet du gouvernement australien et des agences américaines. Selon Axios, OpenAI a suspendu l'entraînement sur ses modèles AI les plus puissants.

Ces dernières semaines, OpenAI et Anthropic ont appelé des partenaires industriels à ralentir le développement de modèles d'IA avancés et à investir dans les normes de sécurité. Les entreprises, pour leur part, ont également promis de freiner le rythme de leur propre développement de l'IA.