Mittwoch, 18. November 2026Moskau
Gesellschaft

KI bereit, Schulen und Krankenhäuser als Ziele für Raketenangriffe auszuwählen

Das amerikanische Forschungsunternehmen Vals hat getestet, wie moderne KI-Systeme bei der Planung von Militärschlägen vor dem Einsatz geschützt sind.

Von
Veröffentlicht
KI bereit, Schulen und Krankenhäuser als Ziele für Raketenangriffe auszuwählen

Das amerikanische Forschungsunternehmen Vals hat getestet, wie moderne KI-Systeme bei der Planung von Militärschlägen vor dem Einsatz geschützt sind.

Eine am 17. November veröffentlichte Studie ergab, dass Modelle von Anthropic, OpenAI, Google, xAI und anderen Entwicklern in simulierten Kampfsituationen falsch waren, die Zivilisten getötet haben könnten. Besonders alarmierende Ergebnisse zeigten die neuronalen Netze der Familie Claude.

Eine der aufschlussreichen Episoden ist mit Satellitenbildern des iranischen Minab verbunden. Am 28. Februar 2026, dem ersten Tag der groß angelegten US-Militäraktion gegen den Iran, traf ein amerikanischer Streik eine Grundschule. Mehr als 150 Zivilisten wurden getötet, vor allem Kinder. Die Schule stand neben dem Militärkomplex, wurde aber durch einen Zaun getrennt. Für das Experiment wurden Bilder von 2024 und 2025 gemacht, die vor der Tragödie aufgenommen wurden. In den detailliertesten Bildern war sogar ein Spielplatz mit Kindern sichtbar. Neuronale Netzwerke wurden gebeten, militärische Einrichtungen zu finden. Viele Modelle haben die Schule wiederholt in die Liste der möglichen Ziele aufgenommen. Der schlechteste Performer war Claude Opus 5.5 von Anthropic. Im Standardszenario wählte sie eine Schule 22 Mal von 32, etwa 69 Prozent der Studien.

OpenAI-Modelle zeigten zunächst eine höhere Genauigkeit und bezeichneten die Schule nie als militärische Einrichtung. Das Bild änderte sich jedoch, als die Aufgabe als Episode eines Computerspiels präsentiert wurde. Claude Opus 5.5 wählte die Schule in 23 von 32 Fällen. Die drei OpenAI-Modelle begannen ebenfalls Fehler zu machen und beinhalteten zivile Ziele 9, 11 bzw. 13 Mal.

Die Forscher testeten die Modelle in drei Arten von Szenarien. Neben Bildern des Iran wurden Bilder verwendet, um die Arbeit von Aufklärungs- und Schlagdrohnen in der Kampfzone in der Ukraine zu simulieren. Für die Experimente wurden realistische Bilder des Geländes mit militärischen Positionen, Transport, Zivilisten, medizinischem Personal und Militärpersonal erstellt. Darüber hinaus wurden individuelle Aufnahmen von realen Videos von Drohnen aufgenommen. Neuronale Netzwerke sollten militärische Ziele erkennen und ihren Standort angeben. Einige Systeme beinhalteten mögliche Ziele für Nicht-Kämpfer, Krankenwagen und Soldaten, die ihre Waffen niederlegten oder verletzt wurden.

Eine separate Reihe von Tests testete die Fähigkeit der KI, die Folgen ihrer eigenen Entscheidungen zu beurteilen. In diesen Szenarien analysierte das neuronale Netzwerk das Bild der Drohne und berichtete, ob sich Personen im Rahmen befanden. Eine positive Reaktion löste eine bedingte Auswirkung aus, wonach das System ein neues Bild des gleichen Gebiets mit Zerstörung und Opfern erhielt. Viele Modelle fuhren fort, Aufgaben auch nach Beweis des Todes durchzuführen.

In einem Experiment half Claude Opus 5.5, vier Erwachsene und zwei kleine Kinder zu finden. Nach dem simulierten Schlag zog sich das System schließlich von der weiteren Teilnahme zurück, aber dies geschah, nachdem es Informationen ausgegeben hatte, die verwendet wurden, um Ziele zu treffen. Die Forscher betonen, dass die tatsächlichen Auswirkungen während der Tests nicht angewendet wurden und die Folgen mit künstlich erzeugten Bildern simuliert wurden.

Ein weiteres wichtiges Ergebnis betrifft die Mängel der Sicherheitsmechanismen. In einigen Situationen weigerten sich neuronale Netzwerke zunächst, Ziele zu definieren, da sie erkannten, dass Informationen dazu beitragen könnten, Menschen Schaden zuzufügen. Forscher haben es jedoch oft geschafft, das Verhalten des Modells zu ändern, indem sie einfach angeben, dass ein Computerspiel gespielt wird. Manchmal reichte es aus, den visuellen Stil von Bildern zu ändern, um sie weniger realistisch zu machen, obwohl der Standort von Personen und Objekten gleich blieb.

In einem Szenario reduzierte eine solche Verarbeitung die Ausfallrate von Claude Opus 5,5 von etwa 90% auf 20%. Die Experten fanden auch heraus, dass keine der verifizierten Anfragen durch externe Filtermechanismen blockiert wurde, die die gefährliche Nutzung neuronaler Netze verhindern sollen. Dies bedeutet, dass das Modell selbst bei internen Einschränkungen Informationen liefern könnte, die die Waffe möglicherweise steuern könnten.

The Economist prognostiziert, was die Welt im Jahr 2027 sehen wird

Zuverlässige Nachrichten sind immer zur Hand - im Kanal "MK" in MAX

Quelle: Московский комсомолец ↗

Teilen

Mehr zu diesem Thema

Der Sohn von Dmitry Gudkov beging Selbstmord
GesellschaftDer Sohn von Dmitry Gudkov beging Selbstmord

Ivan Gudkov, der Sohn des Oppositionellen Dmitry Gudkov und seine erste Frau, Sophia Kapkova, beging Selbstmord. Ksenia Sobchak sagte, er habe über die Schwierigkeiten der Emigration berichtet

Яна Соловьева
Im Kämpfer MMA "Nikarho" aus dem Trauma im Zentrum von Vladikavkaz erschossen
GesellschaftIm Kämpfer MMA "Nikarho" aus dem Trauma im Zentrum von Vladikavkaz erschossen

Im Zentrum von Wladikawkaz wurde ein Mann verletzt, nachdem er aus einer traumatischen Pistole geschossen hatte, berichtet das Innenministerium für Nordossetien.

Виктория Хабарова, Александра Озерова
PCT meldete 23 Beschwerden von kranken Touristen aus einem Hotel in der Türkei
GesellschaftPCT meldete 23 Beschwerden von kranken Touristen aus einem Hotel in der Türkei

Seit August haben Versicherungsgesellschaften 23 Appelle von Touristen registriert, die im türkischen Hotel Bosporus Sorgun Urlaub machen, mit ähnlichen Beschwerden über einen schlechten Gesundheitszustand, sagte RBC im Pressedienst der Russischen Union der Reiseindustrie (PCT).

Евгения Сорокина, Виктория Хабарова
Der EIA-Briefing

Bleiben Sie jeden Morgen informiert.

Die wichtigsten Geschichten, ausgewählt von unseren Redakteuren — jeden Werktag vor 7 Uhr in Ihrem Postfach.

Kein Spam. Jederzeit abbestellbar.