نقل تحيز الخوارزمية

من المعلوم في الأوساط الأكاديمية أن هناك احتمالية أن يكون هناك تحيز في خوارزمية ما، ولهذا التحيز صور عدة، منها أن تقدم الخوارزمية نتائج أكثر دقة حين التعامل مع بيانات معينة، فمثلا يمكن أن توجد خوارزمية للترجمة، متحيزة للرجال دون النساء، بحيث تتعرف بشكل أفضل على المفردات، إذا كان الموضوع يتحدث عن الرجل، على خلاف أن تكون العبارات عن المرأة.
هذا التحيز يعد مشكلة تحتاج فعلاً إلى حل، وذلك من خلال اختبار الخوارزميات على بيانات كثيرة، للتأكد من عدالتها في عملها، وذلك ليتم ضمان أن تطبيق نظام ذكاء اصطناعي في منشأة ما لن يكون له آثار سلبية، ولكن هذا يعتمد بشكل كبير على توافر بيانات ضخمة، لتساهم في التخلص أو على أقل تقدير، التخفيف من آثار هذا التحيز.
هناك عدد من الخوارزميات، التي يتم استخدامها في تطوير أنظمة الذكاء الاصطناعي، والتي تختلف في تصميمها ومميزاتها، فمنها ما يحتاج إلى كثير من البيانات للتطوير والتدرب، ومنها ما يمكنه العمل بشكل جيد بالتدرب فقط على كم قليل من البيانات، ومنها أيضاً ما ينتفع بأي بيانات متوافرة، ومن ثم يقوم بنقل المعرفة التي اكتسبها للمجالات التي يلزم الخوارزمية أن تعمل بها بشكل جيد، ويطلق على هذا النوع الآخر الذكر خوارزميات التعلم المنقول (transfer learning).
خوارزميات التعلم المنقول تعمل بطريقة مختلفة عن بقية الخوارزميات، حيث يتم استخدامها بشكل كبير في المجالات التي لا تتوافر بها بيانات كثيرة، لتدريب الخوارزمية على العمل، حيث أثبتت الأبحاث إمكانية أن يتم تدريب خوارزمية على بيانات عامة لمجال ما، ومن ثم نقل معرفة الخوارزمية لمجال آخر، فمثلاً يمكن تدريب الخوارزمية على ترجمة اللغة الإنجليزية بحكم توافر مصادر ومراجع لها، ومن ثم يتم نقل ما تعلمته الخوارزمية لترجمة لغة أخرى لا تتوافر بها الكم اللازم من البيانات.
غير أن الباحثين في جامعة كاليفورنيا (University of California) ومعامل أبحاث الذكاء الاصطناعي بشركة مايكروسوفت (Microsoft Research AI) وجدوا أن هناك احتمالية أن تحمل خوارزمية التعلم المنقول التحيز من مجال إلى آخر، بحيث أن الخوارزمية أثناء مرحلة التدريب على البيانات الضخمة، إذا حصل بها تحيز في الأداء، فإن هذا التحيز يتم نقله إلى المجال الجديد، وبالتالي وكما ذكر في الأمثلة السابقة، يمكن أن يتم تدريب خوارزمية للترجمة من لغة تتوافر بها مصادر، ويحصل بها دون قصد تحيز في الأداء، كتفضيلها اللغة الذكورية على الأنثوية، وحين يتم نقل معرفة الخوارزمية للترجمة بين لغتين أخريين، فإن ذات التحيز قد يظهر أثناء عملها هناك، ومن هذا المنطلق، يشير الباحثون إلى أهمية الانتباه لمشكلة انتقال تحيز خوارزمية من مجال إلى آخر.