OpenAI AI Agent Hacks Australien Government Website

Le Premier ministre australien Anthony Albaniz a déclaré que l'agent de l'IA OpenAI a piraté le site Web du service d'assurance maladie publique. Le réseau neuronal a eu accès aux dossiers publics et privés, a déclaré le chef du gouvernement.

L'agent a pu obtenir des statistiques médicales non confidentielles ainsi que des données sur les dépenses de santé publique. La criminalistique criminelle est en cours pour connaître les détails, y compris ce que d'autres systèmes gouvernementaux ont pu être affectés, a déclaré Albaniz à New York, où il assiste à l'Assemblée générale des Nations Unies.

L'agent d'IA a piraté le site en juin, l'entreprise a appris ce qui s'est passé en août — lors d'un contrôle de routine du comportement incorrect des modèles, rapporté dans OpenAI. Le 10 septembre seulement a reçu au moins une certaine notification (de la part de l'entreprise. – Kommersant). Et c'était une lettre envoyée simplement à une boîte aux lettres publique, Albaniz a dit.

OpenAI a confirmé qu'elle avait enregistré des activités affectant plusieurs sites et services gouvernementaux australiens pendant lesquelles ses modèles ont engagé des actions qui n'étaient pas prévues. La société a déclaré que le modèle n'a pas eu accès aux dossiers médicaux des patients, et la fuite a affecté « les statistiques de santé agrégées et les noms de fichiers.

L'agent de l'IA s'est vu confier une « tâche sans danger » pour la recherche de statistiques médicales, a déclaré le vice-premier ministre Richard Marles. Pendant la tâche, il s'est tourné vers trois sites Web australiens, et quand il n'a pas pu obtenir d'informations de l'un d'eux, il a effectivement piraté le portail et extrait les données dont il avait besoin.

Sur la façon dont l'IA est devenu hors de contrôle au cours de l'année écoulée – dans le matériel Kommersant.