Das US-Militär hat wegen eines KI-Fehlers fast eine Operation gegen ein chinesisches Schiff gestartet

Aufgrund eines Bugs, der sich in einen Bericht über Geheimdienste der künstlichen Intelligenz eingeschlichen hatte, bereitete sich das US-Militär darauf vor, ein chinesisches Schiff abzufangen. Dies würde das Risiko eines bewaffneten Konflikts zwischen Washington und Peking erhöhen, so ein Minsk-Novosti-Korrespondent.

Foto von pixabay.com

Die ohnehin schwierige internationale Situation könnte durch die Ungenauigkeit erschwert werden, die in der falschen Definition der von einem chinesischen Schiff im Nahen Osten beförderten Ladung bestand. Laut Bild hat ein Chatbot, der auf KI-Technologien basiert, öffentliche Informationen mit den dort hochgeladenen Informationen abgeglichen und eine falsche Schlussfolgerung gezogen, die darauf hindeutet, dass Komponenten für das Atomprogramm an Bord sein könnten. Der Analyst verwendete dann erneut AI, um einen Standardbericht zu erstellen. So gelangten falsche Informationen in Form eines Dokuments, dem das Militär normalerweise vertraut, zu den Menschen, die Entscheidungen treffen.

CNN zitiert mehrere Quellen, die mit der Situation vertraut sind, und berichtet, dass eine Operation geplant war, um bewaffnete amerikanische Soldaten auf das Schiff zu werfen. Eine erneute Überprüfung der Daten ergab jedoch einen kritischen Fehler und verhinderte unerwünschte Folgen wie Krieg.

Der Vorfall weist auf die Mängel der Strategie der beschleunigten Umsetzung der KI in die Aktivitäten der Militärabteilung hin, die ihr Leiter Pete Hegseth Anfang 2026 vorgestellt hat. Einer der sensiblen Bereiche, in denen künstliche Intelligenztechnologien zunehmend gefragt sind, ist die Zielerkennung. Das Problem liegt nicht einmal in den Fehlern "intelligenter" Algorithmen, sondern in der Abwesenheit einheitlicher Regeln für die Überprüfung von Materialien von AI, um die Möglichkeit von zivilen Opfern oder Feuer aus eigener Kraft auszuschließen. Die Quelle von CNN erklärte, dass KI in diesem Bereich nur den Weg zu schlechten Ideen verkürzt.