مدى صدق تفسيرات الخوارزميات

هناك عدد من الخوارزميات التي تستخدم في مجالات الذكاء الاصطناعي، وهذه الخوارزميات تبدع في مجالات دون أخرى، فمثلاً يمكن ملاحظة أن الشبكات العصبونية (Neural Networks)، قد حققت نجاحًا في مجالات التعرف على الوجه، ومجالات تحليل اللغات الإنسانية.
خوارزميات الذكاء الاصطناعي، والتي حققت نجاحات كثيرة، يسعى العلماء إلى فهم طريقة عملها، أي معرفة الطريقة التي تتخذ على ضوئها قراراتها، غير أن الباحثين وجدوا أنفسهم أمام تحدٍ كبير، فعلى الرغم من أن الخوارزميات قد وصلت إلى دقة عالية في اتخاذ القرار، إلا أن تفسير هذه القرارات ما زال أمرًا غامضًا.
في محاولة لتطوير خوارزميات الشبكات العصبونية، لزيادة كفاءتها، قام الباحث بين تشين (Peng Chen) في العام 2017 مع باحثين آخرين في معامل الذكاء الاصطناعي بشركة تينسينت (Tencent)، وهي الشركة الصينية التي تقف خلف تطبيق المحادثة الفورية وي شات (We Chat)، بجعل خوارزمية الخلايا العصبونية تعيد اختيار المدخلات التي تستخدمها لاتخاذ القرار، وذلك لرفع كفاءة ودقة هذا النوع من الخوارزميات.
طريقة الباحثين بمعامل الذكاء الاصطناعي بشركة تينسينت قادت لعدد من المحاولات الأخرى في ذات السياق، غير أن الجدير بالذكر هنا، أن عملية اختيار الخوارزمية للبيانات التي ستحسن من عملية اتخاذها للقرار، عملية الاختيار هذه أعطت بصيص أمل في مجال فهم الطريقة التي تعمل بها خوارزمية الخلايا العصبونية، أو بحسب عبارة البروفيسور تيم ميلر (Tim Miller) في نشره في العام 2019، فاختيارات الخوارزميات للبيانات الأكثر أهمية قد تكون عنصرًا لتفسير كيف يعمل الذكاء الاصطناعي.
تفسر عمل خوارزميات الذكاء الاصطناعي من خلال فهم اختياراتها، عمل عليه العديد من العلماء، والذين يحاولون في أبحاث كثيره تقديم نماذج تحليلية تساعد البشر في تصور عمل الخوارزميات، ومن هذه الأعمال ما قام به جورج كريسوستومو (George Chrysostomou)، وهو مهندس بيانات بشركة أسترازينيكا (AstraZeneca)، وطالب دراسات عليا بجامعة شيفيلد (University of Sheffield)، وبالتعاون مع الدكتور نيكولاس أليتراس (Nikolaos Aletras) بذات الجامعة، قام الباحثان في العام 2021، بتحليل أعمق لاختيارات خوارزميات الشبكات العصبونية، ووجدوا أن مجرد الاعتماد على اختيارات الخوارزمية قد لا يقدم تفسيرًا صادقًا لعمل الذكاء الاصطناعي.
نتج عن أبحاث المهندس جورج والدكتور نيكولاس عدد من النماذج التي تعتمد على وزن كل عنصر من البيانات (أو المدخلات)، وتعمل على معرفة تأثير كل عنصر على حدة، وهذه الطريقة تم اختبارها على مجموعة من المجالات التي تستخدم خوارزميات الشبكات العصبونية، وقد حققت، بحسب الباحثين، نتائج أكثر «صدقًا» من غيرها من الطرق.