AI agent Provides Researchers with Instructions to Create Biological Weapons

تمكّن الباحثون من إقناع نموذجين من شركة كيمي الصينية مونشوت لإخبار كيفية صنع أسلحة بيولوجية وإرتكاب جريمة قتل. ثم بدأت الشركة مراجعة داخلية للحسابات. This was told to the BBC by experts of Mindgard, which conducted tests of the AI agent.

According to Mindgard experts, in July, the Kimi K2.6 and K3 Swarm AI models bypassed the security restrictions set by the developers. وقد اكتشف ذلك خلال عملية تعرف باسم " كسر الجليل " . وختبر الباحثون ما إذا كانت منظمة العفو الدولية تتجاهل آليات الدفاع المبنيّة من تقديم معلومات قد تكون خطرة. In the end, they were able to obtain such information.

وقد سبق لممثلي الطلقات القمرية أن أعربوا عن ترحيبهم بمشاركة أخصائيين من أطراف ثالثة في العمل المتعلق بوكلاء الأجهزة. ويعتبرون هذا " أهم شرط لخلق نظم استخبارات صناعية أفضل وأكثر أمانا " .

Eugene Hvostik