Über das Hacking des KI-Agenten der Regierungswebsite sagte der Premierminister von Australien

KI-Agent des amerikanischen Unternehmens OpenAI hackte die statistische Internet-Ressource des australischen Systems der universellen Krankenversicherung. Dies erklärte der australische Premierminister Anthony Albanese, der Korrespondent der Agentur "Minsk-Novosti".

Foto von Unsplash

Die Ankündigung erfolgte auf einer Pressekonferenz während der UN-Generalversammlung am 23. September, als führende KI-Unternehmen den UN-Sicherheitsrat vor globalen Risiken warnten und die Regierungen aufforderten, gemeinsam die Kontrolle über immer leistungsfähigere KI-Technologien zu behalten.

Laut Reuters enthält die Website, die unbefugten Zugriff erhalten wurde, aggregierte Daten über die Nutzung medizinischer Dienste im ganzen Land und keine persönlichen finanziellen, medizinischen Informationen von Millionen von Australiern. Die Behörden betrachteten den Vorfall als schweren Verstoß. Ein KI-Agent, der nach Gesundheitsstatistiken suchte, erhielt Ablehnungen aus dem System, akzeptierte sie jedoch nicht und fand willkürlich heraus, wie man die Hindernisse umgehen konnte.

Australien äußerte seine Besorgnis gegenüber dem Management des Unternehmens aus den Vereinigten Staaten im Zusammenhang mit dem Vorfall. Albanese bezeichnete die Situation als inakzeptabel und stellte fest, dass es enttäuschend sei, dass die Benachrichtigung über den Vorfall erst am 10. September in Form einer E-Mail an die für öffentliche Dienste zuständige Behörde eingegangen sei. Gleichzeitig hat das Land ein nationales Cybersicherheitszentrum.

Medienberichten zufolge fand der Hack im Juni statt. Die Entwickler, sagten sie, identifizierten den Cyber-Vorfall später im Sommer, während sie auf Fälle von inkonsistentem Verhalten von KI-Modellen überprüften. Albanese schloss auch nicht aus, dass drei andere staatliche Gesundheitswebsites von OpenAI betroffen sein könnten.

Das Unternehmen sagte, es habe unvorhergesehene KI-Modell-Aktivitäten in Verbindung mit mehreren australischen Regierungs-Internetdiensten identifiziert, fand aber keine Beweise für den Zugang zu Patientenakten. Darüber hinaus bestätigten sie ihre Offenheit und Bereitschaft, solche Probleme zu melden und Informationen auszutauschen.

Die australischen Behörden haben eine Untersuchung einer möglichen Datenschutzverletzung eingeleitet. Es bleibt auch festzustellen, warum Regierungssysteme überhaupt keine Systemsicherheitsverletzung festgestellt haben. Die Herausforderung besteht darin, herauszufinden, welche anderen Maßnahmen solche Vorfälle in Zukunft verhindern werden.