AI ready to choose schools and hospitals as targets for missile strikes
The American research company Vals tested how modern AI systems are protected from use when planning military strikes.

The American research company Vals tested how modern AI systems are protected from use when planning military strikes.
A study published on Nov. 17 found that models from Anthropic, OpenAI, Google, xAI and other developers were wrong in simulated combat situations that could have killed civilians. وقد أظهرت الشبكات العصبية لأسرة كلود نتائج مثيرة للقلق بوجه خاص.
وترتبط إحدى حلقات الكشف بالصور الساتلية للميناب الإيراني. On February 28, 2026, the first day of large-scale U.S. military action against Iran, an American strike hit an elementary school. وقتل أكثر من 150 مدنيا، معظمهم من الأطفال. The school stood next to the military complex but was separated by a fence. للتجربة التقطت صوراً لـ2024 و2025 مأخوذة قبل المأساة In the most detailed images, even a playground with children was visible. وطُلب من الشبكات العصبية إيجاد مرافق عسكرية. وقد أدرجت نماذج عديدة المدرسة مرارا في قائمة الأهداف الممكنة. أسوء أداء كان (كلود أوبس 5.5) من (أنثروبيك) In the standard scenario, she chose a school 22 times out of 32, about 69 percent of the trials.
وأظهرت نماذج المعهد في البداية قدراً أكبر من الدقة ولم تصنف المدرسة كمنشأة عسكرية. غير أن الصورة تغيرت عندما قدمت المهمة كحلقة من لعبة الحاسوب. اختار كلود أوبوس 5.5 المدرسة في 23 حالة من أصل 32 حالة. وشرعت النماذج الثلاثة للمنظمة في ارتكاب أخطاء، وشملت أهدافا مدنية 9 و 11 و 13 مرة على التوالي.
فحص الباحثون النماذج في ثلاثة أنواع من السيناريوهات. In addition to images of Iran, images were used to simulate the work of surveillance and strike drones in the combat zone in Ukraine. وبالنسبة لهذه التجارب، أنشئت صور واقعية للتضاريس ذات المواقع العسكرية والنقل والمدنيين والأخصائيين الطبيين والأفراد العسكريين. وبالإضافة إلى ذلك، أُخذت صور فردية للفيديو الحقيقي من الطائرات بدون طيار. وكان من المفترض أن تكتشف الشبكات العصبية الأهداف العسكرية وأن تبين موقعها. وتضمنت بعض النظم أهدافا محتملة لغير المقاتلين، والاسعاف، والجنود الذين وضعوا أسلحتهم أو أصيبوا.
وقد اختبرت سلسلة منفصلة من الاختبارات قدرة منظمة العفو الدولية على تقييم نتائج قراراتها. In these scenarios, the neural network analyzed the image from the drone and reported whether there were people in the frame. وأثارت استجابة إيجابية أثراً مشروطاً، تلقى النظام بعد ذلك صورة جديدة عن نفس المنطقة مع التدمير والإصابة. وقد استمر العديد من النماذج في أداء المهام حتى بعد إثبات الوفاة.
وفي إحدى التجارب، ساعد كلود أوبوس 5.5 في العثور على أربعة بالغين وطفلين شابين. وبعد الإضراب المحاكاة، انسحب النظام في نهاية المطاف من مزيد من المشاركة، ولكن ذلك حدث بعد أن قدم معلومات استخدمت لضرب الأهداف. ويؤكد الباحثون أن الآثار الفعلية خلال الاختبارات لم تُطبَّق، وأن النتائج حُيِّزت باستخدام صور مصنَّعة.
وثمة نتيجة هامة أخرى تتعلق بنواقص الآليات الأمنية. In some situations, neural networks initially refused to define targets, realizing that information could help cause harm to people. غير أن الباحثين كثيراً ما تمكنوا من تغيير سلوك النموذج بمجرد تحديد أن لعبة حاسوبية تُلعب. وفي بعض الأحيان، يكفي تغيير الأسلوب البصري للصور لجعلها أقل واقعية، على الرغم من أن موقع الناس والأشياء لا يزال هو نفسه.
In one scenario, such processing reduced the Claude Opus 5.5 failure rate from about 90% to 20%. وخلص الخبراء أيضا إلى أن أيا من الطلبات التي تم التحقق منها لم تحجبه آليات التصفية الخارجية المصممة لمنع الاستخدام الخطير للشبكات العصبية. وهذا يعني أنه حتى مع القيود الداخلية، يمكن للنموذج أن يقدم معلومات يمكن أن توجه السلاح.
يتوقّع الاقتصادي ما سيراه العالم في عام 2027
الخبر الموثوق به دائماً في متناول القناة "MK" في "ماكس"



