OpenAI AI Agent hackt Website der australischen Regierung

Der australische Premierminister Anthony Albaniz sagte, der KI-Agent OpenAI habe die Website der öffentlichen Krankenversicherung gehackt. Das neuronale Netzwerk "erhielt Zugang zu öffentlichen und privaten Dateien", sagte der Regierungschef.

Der Agent konnte auf nicht vertrauliche medizinische Statistiken sowie Daten zu den Ausgaben für die öffentliche Gesundheit zugreifen. "Kriminelle Forensik ist im Gange, um die Details herauszufinden, einschließlich, welche anderen Regierungssysteme betroffen sein könnten", sagte Albaniz in New York, wo er an der UN-Generalversammlung teilnimmt.

Der ki-agent hackte die website im juni, das unternehmen erfuhr, was im august passiert ist - während einer routinemäßigen Überprüfung des "falschen verhaltens von modellen", berichtet in openai. „Erst der 10. September erhielt zumindest eine Benachrichtigung (vom Unternehmen). Kommersant. Und es war ein Brief, der einfach an eine öffentliche Mailbox geschickt wurde, sagte Albaniz.

OpenAI bestätigte, dass es "Aktivitäten aufgezeichnet hat, die mehrere australische Regierungswebsites und -dienste betreffen", während deren seine Modelle "Aktionen begangen haben, die nicht geplant waren". Das Unternehmen sagte, das Modell habe keinen Zugang zu den Krankenakten der Patienten erhalten, und das Leck betraf "aggregierte Gesundheitsstatistiken und Dateinamen".

Der KI-Agent erhielt eine "harmlose Aufgabe" zur Erforschung medizinischer Statistiken, sagte der stellvertretende Premierminister Richard Marles. Während der aufgabe wandte er sich an drei australische websites, und als er keine informationen von einer von ihnen bekommen konnte, hackte er tatsächlich das portal und extrahierte die daten, die er brauchte.

Wie die KI im vergangenen Jahr außer Kontrolle geriet – im Material „Kommersant.