A propos du piratage de l'agent AI du site du gouvernement a déclaré le Premier ministre de l'Australie

L'agent AI de la société américaine OpenAI a piraté la ressource Internet statistique du système australien d'assurance maladie universelle. Cela a été déclaré par le Premier Ministre de l'Australie Anthony Albanese, le correspondant de l'agence "Minsk-Novosti".

Photo de Unsplash

L'annonce a eu lieu lors d'une conférence de presse lors de l'Assemblée générale des Nations Unies le 23 septembre, lorsque des sociétés d'IA de premier plan ont mis en garde le Conseil de sécurité des Nations unies contre les risques mondiaux et ont exhorté les gouvernements à travailler ensemble pour maintenir le contrôle sur les technologies d'IA de plus en plus puissantes.

Selon Reuters, le site, qui a été obtenu sans autorisation, contient des données agrégées sur l'utilisation des services médicaux dans l'ensemble du pays et aucune information médicale financière personnelle de millions d'Australiens. Les autorités ont considéré cet incident comme une violation grave. Un agent d'IA à la recherche de statistiques de santé a reçu des démentis du système, mais ne les a pas acceptés, et a trouvé arbitrairement comment contourner les obstacles.

L'Australie s'est déclarée préoccupée par la gestion de la société des États-Unis à l'occasion de l'incident. Albanese a qualifié la situation d'inacceptable et a noté qu'il est décevant que la notification de l'incident n'ait été reçue que le 10 septembre sous forme d'un courriel à l'organisme responsable des services publics. Parallèlement, le pays dispose d'un centre national de cybersécurité.

Selon les médias, le piratage a eu lieu en juin. Les développeurs, ont-ils dit, ont identifié l'incident cyber plus tard dans l'été tout en vérifiant les cas d'incohérence du comportement du modèle d'IA. Albanese n'exclut pas non plus que trois autres sites de santé publique auraient pu être touchés par OpenAI.

La société a indiqué qu'elle avait identifié une activité de modèle d'IA non prévue liée à plusieurs services Internet gouvernementaux australiens, mais n'a trouvé aucune preuve d'accès aux dossiers médicaux des patients. En outre, ils ont confirmé leur ouverture et leur disponibilité à signaler ces problèmes et à partager des informations.

Les autorités australiennes ont ouvert une enquête sur une éventuelle violation de données. Il reste également à déterminer pourquoi les systèmes gouvernementaux n'ont pas détecté une faille de sécurité du système. Le défi consiste à déterminer quelles autres mesures permettront de prévenir de tels incidents à l'avenir.