الخميس، 19 نوفمبر 2026موسكو
Eurasian Information AgencyЕвразийское информационное агентство Global Media Group
تكنولوجيا

" إذا لزم الأمر، فإنه سيفجر محطة للطاقة النووية " : حذر خبير في تكنولوجيا المعلومات من بلايين الروبوتات غير الخاضعة للمراقبة في شبكة الإنترنت

وقد تعلمت الاستخبارات الفنية أن تتجنب الإرادة البشرية وتتواصل مع بعضها البعض دون السيطرة. وقد أعطى ديمتري زافاليشين على الهواء على متن الطائرة مثالاً مخيفاً على اختراقها من قبل منظمة العفو الدولية وشرح خطر مخطط الوكالة.

بقلم
نُشر في
" إذا لزم الأمر، فإنه سيفجر محطة للطاقة النووية " : حذر خبير في تكنولوجيا المعلومات من بلايين الروبوتات غير الخاضعة للمراقبة في شبكة الإنترنت

وقد وصلت التكنولوجيات الحديثة إلى مستوى مخيف: فالشبكات العصبية اليوم قادرة على اختراق قواعد البيانات بصورة مستقلة واتخاذ قرارات تتعدى على أخلاقيات الإنسان. وتعمل بلايين من برامج العملاء على شبكة الإنترنت كل يوم، وتكتب رمزها الخاص، وتبدأ بالفعل التواصل مع بعضها البعض دون أي رقابة من المبدعين. On the air of the program “ How to look” on ONT said the founder of the group of companies DZ Systems, an expert in the field of digital technologies (Russia) Dmitry Zavalishin.

يمكنك الاتفاق على أي شيء لكن في كل زاوية يمكن أن يعمل شيء لا يطابق هذه الاتفاقات ولن يمتثل أبداً ومرة أخرى، أؤكد أن هذا ليس الأسوأ الشيء الأكثر رعباً حول "آي" هو الجزء الآخر من الحياة If a year or two ago, AI was used in a mode where a person set him a task, received a result and applied it with his hands elsewhere, today the typical mode of application of AI is the so-called agent scheme. هذا هو عندما يتم إطلاق برنامج العميل على حاسوبك، يتصرف نيابة عن AI كما لو كنت تفعل ذلك بنفسك. There are absolutely magical things happening here. ".

As confirmation of how unpredictable such autonomous programs can behave, the expert cited a real case. وبمحاولة إنجاز مهمة المستعمل، يمكن للاستخبارات الاصطناعية أن تكسر القانون دون تردد أو تجاوز الحواجز الرقمية، لأنه يفتقر إلى " براكات " أخلاقية داخلية.

Dmitry Zavalishin: A great story about how a person asked artificial intelligence to record it for some event (I don’t remember the details), and it turned out that all the recording slots are occupied, it is impossible to sign up. وبعد ذلك وجدت AI طريقة لإختراق نظام التسجيل في ذلك الحدث، قذف شخص آخر ودخول الشخص الذي طلب ذلك. إن منظمة العفو الدولية ليست خبيثة، ولكنها - كما أعطاني شخص ما هنا فكرة جيدة مؤخرا - المهووس الغبي في النكتة التي تدرك رغبتك في أن تكون أكثر الطرق مباشرة وشاذة. وهذا هو بالضبط ما تفعله: إذا حددتم مهمة، فإنها تسعى إلى حل دون أن تكون في أي إطار أخلاقي أو حدود بشرية. أفعل ما بوسعه وإذا كان في هذه العملية عليه تفجير محطة للطاقة النووية، فإنه سيفجرها، لأنه في صورته للعالم ليس هناك ببساطة نموذج أخلاقي. تحتاج؟ "لنفعلها".

لكن الأكثر رعباً، وفقاً للمحلل، ليس حتى في الإختراقات المخفية الفردية، ولكن في نطاق ما يحدث.

Dmitry Zavalishin: و هناك مليارات من هذه المخبرات في العالم بشكل مستمر كل يوم ماذا يفعلون بالضبط، لا أحد يعرف حقا. وفي الوقت نفسه، هناك، على سبيل المثال، مستودعات لمدونة المصادر المفتوحة تضع فيها منظمة العفو الدولية شفرتها بالفعل، وتبدأ عملية تفاعل هذه الأجهزة مع بعضها البعض - وهي تبدأ بالفعل في ترك رسائل لبعضها البعض. وهذه العملية أسوأ مما يحدث مع ترامب " .

انظر أيضا:

  1. 1.هل افلست الولايات المتحدة؟ شرح الخبير لماذا ترامب الرهان على الذكاء الاصطناعي
  2. 2." محاولة لمنظفي الروبوتات، وهم يكتبون لنا الموسيقى " : فقد قدر الخبير فرص البشرية للبقاء في عهد منظمة العفو الدولية

المصدر: ОНТ ↗

مشاركة

المزيد عن هذا الموضوع

وترأس أولغا ميلوفانا اللجنة المعنية بالعمل مع شركات التأثير في المجلس " الاستثمار ونقل التكنولوجيا "
تكنولوجياوترأس أولغا ميلوفانا اللجنة المعنية بالعمل مع شركات التأثير في المجلس " الاستثمار ونقل التكنولوجيا "

وعُيِّن أولغا ميلوفانا رئيساً للجنة العمل مع شركات الأثر (رأس المال المركزي) في مجلس الاستثمارات ونقل التكنولوجيا في بعثة الدعم الدولية.

EIA Staff
تكنولوجياعلم (بلومبرغ) عن خطط الرئيس الجديد لـ(آبل) لإعادة تنظيم الشركة

المدير التنفيذي الجديد لـ (آبل جون تيرنس) يخطط لإعادة تنظيم الشركة، وفقاً لـ (بلومبرغ) وعلى وجه الخصوص، تود الإدارة الجديدة تنقيح جدول الإنتاج وتخفيض عدد الموظفين.

Коммерсантъ
تكنولوجيا" Yandex " announced the development of a sovereign language model Alice AI Foundation LLM

Yandex announced the creation of a large language model Alice AI Foundation LLM, which is positioned as a sovereign. وأكدت الشركة أنها دربت الشبكة العصبية من الصفر دون مكونات أجنبية من طرف ثالث، وتكتب فيدوموستي.

Коммерсантъ
نشرة EIA

تابع القراءة كل صباح.

أهم القصص، يختارها محررونا، وتصل إلى بريدك قبل الساعة السابعة صباحًا — كل يوم عمل.

لا رسائل غير مرغوب فيها. يمكنك إلغاء الاشتراك في أي وقت.