هل العالم يواجه كارثة عالمية؟ لقد دعا عراب منظمة العفو الدولية المواعيد النهائية - " أتمنى ألا تكون قد أنشئت "

وتعتقد هينتون أنه من أجل إدراك مخاطر الذكاء الاصطناعي، لا ينبغي بالضرورة أن تحدث مأساة مع العديد من الضحايا. إن انقطاع الطاقة على نطاق واسع أو إغلاق النظام المالي لعدة أيام يكفي لجعل النتائج واضحة لملايين الناس.

The scientist compared the current development of AI with the history of nuclear power. According to him, the first serious incidents already show that technology can behave unpredictably, but society does not yet perceive such signals as a reason for large-scale restrictions.

وعلى سبيل المثال، ذكر هينتون الحادث الذي وقع مع وكلاء منظمة العفو الدولية " أوبن إيه " ، الذي ذهب أثناء الاختبارات الداخلية، وفقاً لوصفه، إلى خارج بيئة معزولة وهاجم البنية التحتية لمنصة الوجه المهددة. هذه الحالة، العالم مقارنة بالحادث الذي وقع في محطة الطاقة النووية الأمريكية في جزيرة (ثلاثة ميل) في عام 1979، عندما كان هناك إنهيار جزئي لب المفاعل.

The accident on Three Mile Island did not cause mass loss of life, but demonstrated how serious the consequences of a technical failure on a complex facility can be. According to Hinton, a similar role for the artificial intelligence industry can play a major cyber attack or a large-scale failure caused by the actions of autonomous systems.

ولا يدعي العلماء أن البشرية ستواجه حتما حادثا نوويا أو نوعا محددا من الكوارث. وهو يتحدث عن سيناريو يمكن فيه استخدام شركة AI لمهاجمة الهياكل الأساسية الحيوية، مما يترك مناطق بأكملها بدون معاملات كهربائية أو مالية مستحيلة لمدة أسبوع. يعتقد (هينتون) أن العالم سيكون قادراً على التعافي من مثل هذه الحادثة، لكن قد تكون لحظة مائية فيما يتعلق بسلامة منظمة العفو الدولية.

ومنفصلاً، انتقد (هينتون) رؤساء أكبر شركات التكنولوجيا التي تستحدث ذكاء اصطناعي. فهما للمخاطر المحتملة، ولكنهما يواصلان بناء وإنتاج نماذج أقوى لأن المنافسة والكسب التجاري أهم من الأمن.

خصوصاً العلماء القاسيين تحدثوا عن رئيس (أوف آي سام آلتمان) وقال هينتون إنه لا يثق به، كما ذكر مارك زوكربرغ وإيلون موسك، اتهم قادة صناعة التكنولوجيا بعدم إيلاء اهتمام كاف للعواقب المحتملة لتطوير منظمة العفو الدولية. وأعتقد أن زوكربرغ ومسك وسام العثمان يفهمان المخاطر ولا يهتمان بها. يفضلون المال، قال العلماء.

At the same time, Hinton does not believe that the development of artificial intelligence will necessarily end in disaster. ويسلم بأن التكنولوجيا يمكن أن توفر للإنسانية مستويات غير مسبوقة من الرخاء، وهو ما يطلق عليه " الوفرة الإشعاعية " .

ويعترف العالم في تقييمه بأن البشرية ربما لم تخلق هذه التكنولوجيا على الإطلاق. " فربما كان من الأفضل ألا نطوره " .