الجيش الأمريكي: الحوثيون أطلقوا صواريخ وطائرات مسيرة    الأخضر يواصل استعداداته لمواجهتي باكستان والأردن    ولي العهد يتوج فريق الهلال بكأس خادم الحرمين الشريفين للموسم الرياضي 2023 – 2024    الإعلان عن إطلاق معرض جدة للتصميم الداخلي والأثاث    مدينة الحجاج "بحالة عمار" تقدم خدمات جليلة ومتنوعة لضيوف الرحمن    الاتحاد الأوروبي يرحب بمقترح "واقعي" لوقف النار في غزة    الأمم المتحدة تحذر من خطر تعرض ملايين السودانيين للمجاعة    مدينة الحجاج بحالة عمار تقدم خدمات جليلة ومتنوعة لضيوف الرحمن    أسعار النفط تتراجع قبيل اجتماع "أوبك+"    200 دولة في العالم و66 قناة تلفزيونية نقلت نهائي كأس الملك    جمعية لياقة تستقبل وفد سفارة الولايات المتحدة الأمريكية بعرعر    سفير المملكة لدى اليابان: العلاقات السعودية اليابانية خلال السبعين السنة القادمة ستكون أكثر أهمية    جامعة الطائف تقفز 300 مرتبة في تصنيف RUR العالمي    الرئيس العام لهيئة الأمر بالمعروف والنهي عن المنكر يطلق خدمة (المرشد التوعوي الرقمي)    استقبال الحجاج عبر منفذ البطحاء بالمنطقة الشرقية    انجاز جديد لميتروفيتش بعد هدفه في كأس الملك    بمتابعة وإشراف أمير تبوك.. مدينة الحجاج ب«حالة عمار» تقدم خدمات جليلة ومتنوعة لضيوف الرحمن    ركلات الترجيح تمنح الهلال لقب كأس الملك على حساب النصر    بونو يُبكّي رونالدو بْزَّاف    موعد مباراة ريال مدريد وبورسيا دورتموند اليوم في نهائي دوري أبطال أوروبا    "أرامكو" ضمن أكثر 100 شركة تأثيراً في العالم    رصد 8.9 ألف إعلان عقاري مخالف بمايو    تدريب 45 شاباً وفتاة على الحِرَف التراثية بالقطيف    الإبراهيم يبحث بإيطاليا فرص الاستثمار بالمملكة    "كروم" يتيح التصفح بطريقة صورة داخل صورة    ضبط مقيمين من الجنسية المصرية بمكة لترويجهما حملة حج وهمية بغرض النصب والاحتيال    اختتام ناجح للمعرض السعودي الدولي لمستلزمات الإعاقة والتأهيل 2024    ثانوية «ابن حزم» تحتفل بخريجيها    ترمب: محاكمتي في نيويورك «الأكثر جنوناً»    ضبط مواطنين في حائل لترويجهما مادة الحشيش المخدر وأقراصًا خاضعة لتنظيم التداول الطبي    الرئيس العام لهيئة الأمر بالمعروف والنهي عن المنكر يقوم بزيارة تفقدية    مشرف «سلمان للإغاثة»: 129 مليار دولار حجم المساعدات السعودية ل169 دولة في 28 عاماً    وكيل إمارة حائل يرأس اجتماع متابعة مكافحة سوسة النخيل الحمراء    خلافات أمريكية - صينية حول تايوان    «الجمارك»: إحباط تهريب 6.51 مليون حبة كبتاغون في منفذ البطحاء    خطبتا الجمعة من المسجد الحرام والنبوي    رياح مثيرة للأتربة والغبار على مكة والمدينة    5 مبتعثات يتميّزن علمياً بجامعات النخبة    وزير الداخلية يدشن مشاريع أمنية بعسير    "سامسونغ" تستعد لطرح أول خاتم ذكي    ترقية 1699 فرداً من منسوبي "الجوازات"    المملكة ضيف شرف معرض بكين للكتاب    توجيه أئمة الحرمين بتقليل التلاوة ب"الحج"    أطعمة تساعدك على تأخير شيخوخة الدماغ    الرياضة المسائية أفضل صحياً لمرضى للسمنة    ثانوية ابن باز بعرعر تحتفي بتخريج أول دفعة مسارات الثانوية العامة    الخريف لمبتعثي هولندا: تنمية القدرات البشرية لمواكبة وظائف المستقبل    وزير الداخلية للقيادات الأمنية بجازان: جهودكم عززت الأمن في المنطقة    الأمير فهد بن سلطان: حضوري حفل التخرُّج من أعظم اللحظات في حياتي العملية    «الدراسات الأدبية» من التقويم المستمر إلى الاختبار النهائي !    كيف تصبح زراعة الشوكولاتة داعمة للاستدامة ؟    5 أطعمة غنية بالكربوهيدرات    المملكة تستضيف الاجتماع السنوي ال13 لمجلس البحوث العالمي العام القادم    كيف نحقق السعادة ؟    المعنى في «بطن» الكاتب !    تشجيع المتضررين لرفع قضايا ضد الشركات العالمية    عبدالعزيز بن سعود يلتقي عدداً من المواطنين من أهالي عسير    أمير القصيم يكرم 7 فائزين بجائزة الأميرة صيتة بنت عبدالعزيز    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



تسميم الخوارزميات
نشر في الوطن يوم 24 - 03 - 2022

يمكن القول إن جهاز الكمبيوتر يعمل بشكل عام بثلاث خطوات، هي: المدخلات والمعالجة والمخرجات، وهذه المراحل الثلاث التي تمر بها البيانات تعد الأساس، الذي تبنى عليه كثير من العمليات الحاسوبية، خصوصًا التي تعنى بتحليل البيانات للحصول على معلومات يمكن أن تستخدم في دعم اتخاذ القرار.
المراحل الثلاث لعمل الكمبيوتر، تنطبق بشكل أو بآخر، على مجال الذكاء الاصطناعي، فيمكن القول إن الخوارزميات يكون لها مدخلات، ومن ثم تقوم الخوارزمية بالمعالجة، وبعد ذلك تتكون المخرجات، وهذه المخرجات يمكن أن تكون في صورة تحليل أو تنبؤ بالمستقبل.
يقوم الباحثون حول العالم بالعمل على تحسين جودة كل مرحلة من مراحل الذكاء الاصطناعي، فيمكن أن يكون التطوير في مرحلة المدخلات بحيث يتم رفع دقة البيانات المدخلة للخوارزمية، أو في مرحلة المعالجة، فيتم ضبط متغيرات الخوارزمية، أو في مرحلة المخرجات، بحيث تكون المخرجات أيسر على المستخدم في تفسيرها، ليس ذلك فحسب، بل يمكن تطوير أحد المراحل الثلاث، بشكل يؤثر في المراحل الأخرى، فيمكن معايرة مرحلة المعالجة بحيث تكون أقل صرامة فيما يتعلق بالمدخلات، لتقبل كمدخلات بيانات ليست ذات دقة عالية.
الأثر الذي يتركه تطوير أحد المراحل على الأخرى أثار انتباه الدكتور جراهام نيوبيج (Graham Neubig) وفريقه البحثي بجامعة كارنجي ميلون الأمريكية (Carnegie Mellon University)، حيث درس الباحثون إمكانية هندسة البيانات التي تستخدم أثناء التدريب، بطريقة تسمح بالتحكم في عمل الخوارزمية في المستقبل.
وجد الباحثون أنه بالإمكان أن يتم تدريب الخوارزمية على بيانات خاصة، تبدو في ظاهرها أنها سليمة، ولكنها تؤثر على الخوارزمية، بشكل غير ملحوظ للعموم، ونتيجة عملية التدريب هذه، أصبح بالإمكان التحكم في مخرجات الخوارزمية، حيث وجد الباحثون أنه وبإعطاء الخوارزمية مدخلات مخصصة، يمكن أن يحدد مسبقًا ما ستكون عليه المخرجات، وبعبارة أخرى، فقد أصبح بالإمكان «تسميم» الخوارزمية كما وصف الباحثون هذه العملية.
يذكر أن طريقة تسميم الخوارزمية التي وجدها الباحثون، قد لا يظهر نتائج أو مخرجات تدعو للريبة، أثناء تجريب واختبار الخوارزمية على بيانات جديدة، بل إن الخوارزمية تعمل بشكل جيد، وتقدم نتائج دقيقة، غير أنه نتيجة لعملية التسميم، فإن الخوارزمية لا تستجيب لمحاولة التأثير على المخرجات، إلا ببيانات مخصصة معينة، يتم دسها بين بيانات المدخلات، وهذه البيانات المخصصة، لا يمكن تمييزها من بين مجمل البيانات المدخلة، وذلك لصغر حجمها، ولاندماجها مع بقية عناصر المدخلات بشكل لا يسهل اكتشافه.


انقر هنا لقراءة الخبر من مصدره.