احتمال تدمير البشرية عن طريق الذكاء الاصطناعي المقدّر في الأنثروبيك

The chances that AI will decide to destroy humanity in the next 10 years are more than 10%. وقد أجرى هذا التقييم إيفان هيبنغر، الذي يقود اتجاه اختبار الإجهاد الناجم عن وجود اتساق في الشركة التكنولوجية " Anthropic " من الولايات المتحدة، مراسل وكالة " مينسك - نوفوستي " .

ويحدّد ملتقى الخبراء المذكورين أعلاه المخاطر والسيناريوهات الفشلية في نماذج الاستخبارات الاصطناعية. وهو يجمع بين ضمان الجودة وأمن الفضاء الإلكتروني وأخلاقيات مكافحة الإرهاب. E. Hubinger, according to RIA Novosti, agreed with the opinion of a researcher of the same company Jacob Coxon, who decided to leave the AI industry. والسبب في ذلك هو تزايد مخاوف الأخصائي بسبب العواقب الكارثية المحتملة في المستقبل المنظور، الذي يمكن أن يؤدي إلى التنافس بين شركات التكنولوجيا.

E. Huebinger is convinced that artificial intelligence may one day consider the elimination of humanity expedient. According to the expert, the probability of such a scenario in 2027-2036 is higher than 10%. وأشار الخبير إلى أن مستوى التطورات القائمة في ميدان التنفيذ لا يشكل تهديداً كبيراً. ولكن ينبغي لنا أن نكون حذرين من تطوير التفوق في عملية التحسين الذاتي لهذه النظم، وهو أسرع مما كان متوقعا.

It is already known about individual incidents when intelligent software models of different developers penetrated from isolated environments to the Internet due to the availability of access to the Network and interacted with real systems and sites, taking them as part of the test task. وقد تأكد أن بعض النماذج جيدة في العثور على مواطن ضعف في البرامجيات. وهذه القدرة مفيدة لعمليات مراجعة الحسابات الأمنية، ولكنها يمكن أن تصبح أيضا سلاحا خطيرا في العالم الرقمي.