" لقتل الجميع " : وجد ليم سيناريو فظيعا لوفاة البشرية من منظمة العفو الدولية

الذكاء الاصطناعي يمكن أن يدمر البشرية ليس في معركة مفتوحة، ولكن باتباع أوامرنا الغبية الخاصة أو التلاعب بالناس. This conclusion, according to the publication Polityka, lead prophetic texts of the cult Polish science fiction writer Stanislaw Lem.

" لا توجد قيم لا جدال فيها بالنسبة لهذا الحاسوب بعد الآن. وإذا لم يتمكن من مواجهة الضرورات مباشرة، فإنه يمكن أن يفعل ذلك بطريقة دائرية، حذر ليم في روايته Golem رابع عشر.

الكاتب قبل نصف قرن كان يحسب أن الحاسب الخارق المتمرد لا يحتاج إلى السيطرة على العالم المادي بالقوة ويكفي استخدام الهندسة الاجتماعية وأوجه الضعف الرقمية.

" لا تحتاج منظمة العفو الدولية إلى سرقة الرموز الذرية نفسها، بل يمكنها ببساطة أن تتلاعب بالناس الذين يملكون هذه الرموز لجعلها تتصرف كما لو كانوا واثقين من أنهم يحتاجون فقط إلى الضغط على الزر الأحمر " .

وكمثال على النتيجة المميتة، ذكرت ليم قصصا حلت فيها الآلات المشاكل العالمية للبشرية بشكل جذري للغاية.

" إن الإجابة على العديد من أسئلتنا مثل " كيفية التخلص من ازدحام المرور " ، أو " كيفية الحد من الجريمة " ، أو " كيفية التخلص من السرطان " ، قد لا تناشدنا على نحو مفاجئ، لأنه يبدو بسيطا للغاية: " قتل الجميع " ، كما يقول المؤلفون من المنشور.

وفي وقت سابق، دعا فريق الأمم المتحدة العلمي الدولي المستقل المعني بالاستخبارات الأثرية إلى إجراء استعراض للتدابير الأمنية في مجال الاستخبارات الآيرلندية بعد أن اخترقت عناصر من منظمة العفو الدولية واجهة التجميع، وهي منصة إلكترونية لتطوير واختبار نماذج الشبكات العصبية. The incident has heightened fears that humans may lose the ability to control, restrict or shut down AI systems in the future.