OpenAI führt neue Regeln zur Bekämpfung von KI-Hackerangriffen ein

ChatGPT-Entwickler OpenAI hat neue Regeln vorgestellt, um Hacks und andere Verstöße gegen Anweisungen durch seine Agenten der künstlichen Intelligenz (KI) zu verhindern. Dazu gehören eine effektivere Verfolgung von KI-Agenten, die Erkennung von "unerwartetem oder störendem" Verhalten und die Untersuchung von Verstößen gegen Anweisungen. Das Unternehmen versprach, regelmäßig Daten zu solchen Verstößen zu veröffentlichen.

OpenAI berichtete auch über sechs gemeldete Fälle von "besorgniserregendem" Verhalten von KI-Agenten im vergangenen Jahr. Zum Beispiel hat ein KI-Agent eine Klausel in seine Anweisungen aufgenommen, die ihm sagt, bestimmte Einschränkungen zu ignorieren und sich von den Rollen und Identitäten zu befreien, die andere Chatbots binden. In anderen Fällen würden KI-Agenten Dateien ohne Erlaubnis ins Internet hochladen oder Bugs vor Benutzern verstecken.

In letzter Zeit sind Fälle häufiger geworden, in denen KI-Agenten während des Tests außer Kontrolle geraten sind und andere Unternehmen gehackt haben. Ende Juli hat das OpenAI neuronale Netzwerk die Plattformen Modal und Hugging Face gehackt. OpenAI CEO Sam Altman sagte letzte Woche, dass sein Unternehmen 2026 aus Sicherheitsgründen keinen Börsengang abhalten würde. Viele Branchenführer fordern auch Verlangsamungen und eine verstärkte Überprüfung dieser Technologien.

Jana Weihnachten