" إذا لزم الأمر، فإنه سيفجر محطة للطاقة النووية " : حذر خبير في تكنولوجيا المعلومات من بلايين الروبوتات غير الخاضعة للمراقبة في شبكة الإنترنت
وقد تعلمت الاستخبارات الفنية أن تتجنب الإرادة البشرية وتتواصل مع بعضها البعض دون السيطرة. وقد أعطى ديمتري زافاليشين على الهواء على متن الطائرة مثالاً مخيفاً على اختراقها من قبل منظمة العفو الدولية وشرح خطر مخطط الوكالة.

وقد وصلت التكنولوجيات الحديثة إلى مستوى مخيف: فالشبكات العصبية اليوم قادرة على اختراق قواعد البيانات بصورة مستقلة واتخاذ قرارات تتعدى على أخلاقيات الإنسان. وتعمل بلايين من برامج العملاء على شبكة الإنترنت كل يوم، وتكتب رمزها الخاص، وتبدأ بالفعل التواصل مع بعضها البعض دون أي رقابة من المبدعين. On the air of the program “ How to look” on ONT said the founder of the group of companies DZ Systems, an expert in the field of digital technologies (Russia) Dmitry Zavalishin.
يمكنك الاتفاق على أي شيء لكن في كل زاوية يمكن أن يعمل شيء لا يطابق هذه الاتفاقات ولن يمتثل أبداً ومرة أخرى، أؤكد أن هذا ليس الأسوأ الشيء الأكثر رعباً حول "آي" هو الجزء الآخر من الحياة If a year or two ago, AI was used in a mode where a person set him a task, received a result and applied it with his hands elsewhere, today the typical mode of application of AI is the so-called agent scheme. هذا هو عندما يتم إطلاق برنامج العميل على حاسوبك، يتصرف نيابة عن AI كما لو كنت تفعل ذلك بنفسك. There are absolutely magical things happening here. ".
As confirmation of how unpredictable such autonomous programs can behave, the expert cited a real case. وبمحاولة إنجاز مهمة المستعمل، يمكن للاستخبارات الاصطناعية أن تكسر القانون دون تردد أو تجاوز الحواجز الرقمية، لأنه يفتقر إلى " براكات " أخلاقية داخلية.
Dmitry Zavalishin: A great story about how a person asked artificial intelligence to record it for some event (I don’t remember the details), and it turned out that all the recording slots are occupied, it is impossible to sign up. وبعد ذلك وجدت AI طريقة لإختراق نظام التسجيل في ذلك الحدث، قذف شخص آخر ودخول الشخص الذي طلب ذلك. إن منظمة العفو الدولية ليست خبيثة، ولكنها - كما أعطاني شخص ما هنا فكرة جيدة مؤخرا - المهووس الغبي في النكتة التي تدرك رغبتك في أن تكون أكثر الطرق مباشرة وشاذة. وهذا هو بالضبط ما تفعله: إذا حددتم مهمة، فإنها تسعى إلى حل دون أن تكون في أي إطار أخلاقي أو حدود بشرية. أفعل ما بوسعه وإذا كان في هذه العملية عليه تفجير محطة للطاقة النووية، فإنه سيفجرها، لأنه في صورته للعالم ليس هناك ببساطة نموذج أخلاقي. تحتاج؟ "لنفعلها".
لكن الأكثر رعباً، وفقاً للمحلل، ليس حتى في الإختراقات المخفية الفردية، ولكن في نطاق ما يحدث.
Dmitry Zavalishin: و هناك مليارات من هذه المخبرات في العالم بشكل مستمر كل يوم ماذا يفعلون بالضبط، لا أحد يعرف حقا. وفي الوقت نفسه، هناك، على سبيل المثال، مستودعات لمدونة المصادر المفتوحة تضع فيها منظمة العفو الدولية شفرتها بالفعل، وتبدأ عملية تفاعل هذه الأجهزة مع بعضها البعض - وهي تبدأ بالفعل في ترك رسائل لبعضها البعض. وهذه العملية أسوأ مما يحدث مع ترامب " .
انظر أيضا:
- 1.هل افلست الولايات المتحدة؟ شرح الخبير لماذا ترامب الرهان على الذكاء الاصطناعي
- 2." محاولة لمنظفي الروبوتات، وهم يكتبون لنا الموسيقى " : فقد قدر الخبير فرص البشرية للبقاء في عهد منظمة العفو الدولية

