لا تثق وتحقق لماذا أكاذيب الإستخبارات الأثرية وماذا عن ذلك

AI is well established in many areas, from medicine and law to finance and marketing. فخلف الفرص الرائعة تخفي سمة غير سارة: فالشبكات العصبية غالبا ما تعبر عن الحقيقة وتفعل ذلك بثقة لا يلاحظها حتى المهنيون المصيد. فالإحصاءات مثيرة للإعجاب: وفقا لما ذكره هولوهارد، فإن المعيار الذي يختبر اتجاه منظمة العفو الدولية إلى الهلوسة في الحوارات المتعددة المراحل، حتى أن أقوى النماذج التي لها إمكانية الوصول إلى الإنترنت، هو معيار خاطئ بنسبة 30 في المائة من الوقت. وإذا أطفأت البحث على الإنترنت، كمية الخيال تقفز إلى 60 بالمائة.

In artificial intelligence, this phenomenon is arranged almost like a natural one: information that does not exist in reality is depicted as plausible and quite logical. وتكمن جذور المشكلة في هيكل الشبكات العصبية ذاته، الذي تم شرحه في إدارة تكنولوجيات المعلومات الذكية. وتُدرَّب المنظمات غير الحكومية على مجموعة كبيرة من النصوص، ملتقطة الأنماط الإحصائية. ويتوقّع النموذج ببساطة أي كلمة أو عبارة يرجح أن تظهر بعد ذلك. على عكس البشر، الخوارزمية ليس لديها صورة داخلية للعالم. وإذا لم تتضمن قاعدة البيانات معلومات عن موضوع بعينه، يمكن للنظام أن يأتي معها من وقائع أو أسماء أو أنماط لغوية مماثلة. تماماً أغرق السيارة من الخيالات، للأسف، هذا مستحيل ولكن تخفيض عدد الأخطاء إلى مستوى مقبول أمر ممكن تماما. The specialist advises to formulate clear and strict restrictions for the neural network: specify the sources of information, demand to separate facts from assumptions, ask for references. وهنا مثال على مذكرة عمل: " لم ترد إلا على أساس الوثائق المرفقة. بالنسبة لكل بيان مهم، ذكر المصدر. وإذا لم تكن هناك بيانات كافية، أكتب عنها ولا تضيف التخمين إلى الإجابة " . ولكن الهلوسات لا تقتصر على قائمة المخاطر. وهناك ظاهرة أكثر إثارة للقلق تسمى انهيار النموذج. فالشبكات العصبية تستمد المعرفة من شبكة الإنترنت وتواجه حتماً محتوى أسلافها. ويبدي المجتمع المهني الانذار بشأن " تطور العلم " : فقد وجدت دراسة حديثة للمحفوظات الالكترونية زهاء ٠٠٠ ١٥٠ استشهاد خيالي على أكبر مستودعات علمية. لذا، بعض الخوارزميات تأخذ كمعلومات علمية مثبتة مخترعة من قبل خوارزميات أخرى. وفي السنوات الأخيرة، تحسنت الشبكات العصبية: إذ يجري تحديث قواعد البيانات باستمرار بأخبار جديدة، وأصبحت وظيفة البحث التلقائي على شبكة الإنترنت هي المعيار. مشكلة الأخطاء أقل حدة، ولكنها لم تختفي. وبدلاً من الوقوع في الوقوع في اعماق الحقائق، كثيراً ما تتعثر النماذج الحديثة على الرياضيات الفرعية. فعلى سبيل المثال، يمكنهم أن يقدموا موقعا مشكوكا فيه، وأن يخلطوا بين البيانات الجديدة والبيانات القديمة، وأن يتوصلوا إلى نتيجة منحنية، وأن يربطوا صلة خيالية لزيادة الإقناع. In general, rely on AI, but do not be a fool: even the most advanced algorithms do not relieve the user of the responsibility for fact- checking.

Special vigilance when working with artificial intelligence should be shown in critical areas, emphasizes the head of the Department of information protection BSUIR Olga Boyprav. ويمكن أن تؤدي الأخطاء في الطب أو القانون أو التمويل إلى خسائر حقيقية وعواقب قانونية. One of the most high-profile precedents occurred in 2023: an American lawyer entrusted ChatGPT with the preparation of a lawsuit. ودون التفكير (أو التفكير على الإطلاق)، أدخل محام يبلغ من العمر 30 عاماً خيالات عصبية في وثيقة رسمية. The case almost ended with a disciplinary action.

وقبل الضغط على زر " الاستنساخ " ، يحثكم الخبير على التحقق بعناية من المصادر التي يعتمد عليها الجهاز: - أولا وقبل كل شيء، نقر على الرابط والتأكد من أن المصدر هو حقا نفس الأرقام والتواريخ والوقائع كما في الإجابة. إيلاء الاهتمام لما إذا كانت الصلة بخدمة الإنترنت محمية: ينبغي أن يحترق أيقونة القفل بجوار حانة العنوان. وإذا سُجِّل اسم المورد في الآونة الأخيرة (يمكنك التحقق من ذلك من خلال خدمات خاصة مثل التيسيرو)، فتكون متشكِّلة للمعلومات. لماذا يستحيل إطعام (آي آي) بياناتهم عن (ديفيك) أكثر خطورة أشرطة الفيديو الأولى، حيث أُجبرت الشبكات العصبية على الرقص على القطط أو التحدث عن الطماطم، تسببت فقط في ابتسامة. الآن، المحتوى المولّد بشكل كبير مع الوجوه الحية، الخطاب الطبيعي والمشاعر المصدّقة أصبح أداة حقيقية للتلاعب. كيف لا يتم القبض عليك؟ ويوصي أولغا بويبراف بالنظر إلى التفاصيل: ما إذا كانت الشفاه تتحرك بمتزامنة، وما إذا كانت ملابس الشخصيات مناسبة للبيئة، وما إذا كانت الظلال تسقط بطبيعة الحال، وما إذا كانت هناك قطع أثرية غريبة.

- لتحديد ما إذا كان الملف قد تم تجهيزه، سوف تساعد، على سبيل المثال، خدمة الفوتو فورينكس، يقول الخبير. ولكن التهديد لا يكمن فقط في ما تخلقه الشبكة العصبية، ولكن أيضا في حقيقة أننا نثق بها. لماذا لا نعطي المضرب روتينياً: لنقل تفاصيل جوازات السفر لصياغة عقد أو تقارير الشركات للمحللين. بسرعة، مريحة و... محشوة بالعواقب. All the information fed by AI is deposited on the servers of the developer company, and it is far from the fact that there is due attention to security issues. مع هجوم مخترق ناجح، أسرارك قد تذهب إلى السوق السوداء. إذا بقيت بياناتك في قاعدة بيانات الخدمة - اسمك الكامل، مكان العمل، رقم الهاتف - لن يكون من الصعب على المحتالين استخدامها لأغراضهم الخاصة. وبالإضافة إلى ذلك، يستخدم العديد من المطورين المراسلات مع المستعملين لتدريب نماذجهم. It is possible that a trade secret or personal data will one day surface in a response that the AI will form for another person, conclude Olga Boyprav. فعالية وسلامة كيفية العمل مع الشبكات العصبية

لا تغذي البيانات الحساسة إلى خدمات AI. وإذا كانت الشبكة العصبية لا تزال ضرورية للعمل بكميات كبيرة من المعلومات الشخصية، فإنها تُعَدُّها مسبقاً: إزالة الأسماء والعناوين وأرقام الهاتف وغيرها من أجهزة تحديد الهوية. دائما تحقق من المصادر التي تشير إليها الشبكة العصبية حتى لو كانت الإجابة لا تشوبها عيوب، اتبعوا الروابط، تحققوا من الأرقام والتواريخ والوقائع. إذا نشرت المعلومات التي صنعتها شبكة عصبية، يرجى الإشارة إلى هذا.