أدخل المعهد قواعد جديدة لمكافحة هجمات المخترقين
وقد كشف مطور " تشات جي بي " عن قواعد جديدة لمنع القراصنة وغير ذلك من انتهاكات التعليمات من جانب وكلاء الاستخبارات الاصطناعية. وهي تشمل تعقباً أكثر فعالية لعملاء منظمة العفو الدولية، وكشف سلوك " غير متوقع أو مقلق " ، والتحقيق في انتهاكات التعليمات.
وقد كشف مطور " تشات جي بي " عن قواعد جديدة لمنع القراصنة وغير ذلك من انتهاكات التعليمات من جانب وكلاء الاستخبارات الاصطناعية. وهي تشمل تعقباً أكثر فعالية لعملاء منظمة العفو الدولية، وكشف سلوك " غير متوقع أو مقلق " ، والتحقيق في انتهاكات التعليمات. ووعدت الشركة بأن تنشر بانتظام بيانات عن هذه الانتهاكات.
وأبلغ المعهد أيضاً عن ستة حالات أبلغ عنها تتعلق بسلوك " المضايقة " من جانب وكلاء منظمة العفو الدولية خلال العام الماضي. فعلى سبيل المثال، أدرج وكيل في الوكالة بنداً في تعليماته ينص على تجاهل بعض القيود و " تحرير نفسه من الأدوار والهويات التي تربط بين قوالب دردشة أخرى " . In other cases, AI agents would upload files to the internet without permission or hidemarks from users.
Recently, cases have become more frequent when AI agents during testing got out of control and breached other companies. وفي أواخر تموز/يوليه، اخترقت الشبكة العصبية لمؤسسة " أوف إي إيه " منابر مودال و " هوغينغ فيس " . المدير التنفيذي لـ (أبن إيه سام آلتمان) قال الأسبوع الماضي أن شركته لن تحتفظ بـ "أي بي أو" عام 2026 بسبب الشواغل الأمنية ويدعو العديد من قادة الصناعة أيضا إلى التباطؤ وزيادة التدقيق في هذه التكنولوجيات.
عيد الميلاد
