خوارزمية الموت

استخدمت أنظمة الذكاء الاصطناعي في عدد من المجالات، فمثلًا في المجال الصناعي استخدمت روبوتات الأذرع التي تقوم بأعمال آلية، وهناك أيضًا المجالات الطبية حيث استخدمت خوارزميات الذكاء الاصطناعي في التعرف على الأورام السرطانية، وفي المجال المالي تم بناء أنظمة يمكنها تحديد العمليات التي يعتقد أنها عمليات احتيال أو غسيل أموال.
خوارزميات الذكاء الاصطناعي، استخدمت أيضًا في التنبؤ بالمستقبل، حيث تستخدم يوميًّا في عمليات التنبؤ بالطقس، كما تستخدم في عمليات التنبؤ بالازدحام المروري، وغيرها من المجالات والتي حققت بها الخوارزميات نجاحات باهرة.
نجاحات خوارزميات الذكاء الاصطناعي، التي أبهرت العالم في السنوات الأخيرة، ليست بمأمن من الاستخدامات أو التطبيقات التي لم تلاقِ ترحيب الوسط الأكاديمي، ومنها ما نشر حوله عدد من الأبحاث في المؤتمرات الدولية، وهو بحث نشره عدد من العلماء بشركة قريدسم (Gridsum) الصينية والتي تعمل في مجال الذكاء الاصطناعي، حيث إنه في 2019 نشرت بحثًا عن خوارزمية من ابتكارهم، يمكنها التنبؤ بالأحكام القضائية.
خوارزمية التنبؤ بالأحكام القضائية تعمل بتحليل صحائف الدعوى المقدمة، وتحليل الدفوعات التي يتقدم بها أطراف القضية، ومن ثم يمكنها تحليل التهم الموجة، وبناء على ذلك تقوم الخوارزمية بالتنبؤ بالسنوات التي سيحكم بها القاضي بناء على كل تهمة موجهة، وبهذا يمكن معرفة ليس فقط الحكم النهائي للمتهم، ولكن أدق التفاصيل التي بني عليها الحكم. ذلك البحث تلقاه الوسط الأكاديمي بالنقد، حيث تناول أكثر من ثلاثين بحث أكاديمي نشرت في مجلات ومؤتمرات عالمية، كان من بينها ما يشيد باستخدام خوارزميات الذكاء الاصطناعي في هذا المجال، ومنها ما أشار إلى الإشكالات التي قد تنشأ من مثل هذه الأنظمة. من الأبحاث التي تناولت موضوع بحث شركة قريدسم، ما نشره عدد من الأكاديميين بجامعة ملبورن الأسترالية حيث تناولوا الجوانب الأخلاقية في مثل تلك الخوارزمية، والتي أشار فيها الباحثون إلى أن مثل تلك الخوارزميات من المحتمل أن تكون خوارزمية للموت.
ذكر الباحثون بجامعة ملبورن عددًا من النقاط المقلقة، ومنها أن هناك احتمالية أن خوارزمية الموت قد تكون متحيزة، بحيث تحكم على جنس بأحكام أكثر شدة من الجنس الآخر، أو أن تحكم على متهم بأنه مذنب بناء على كونه من عرق محدد.
كان هناك العديد من الأبحاث التي تناولت الجانب الأخلاقي في تطبيق خوارزميات الذكاء الاصطناعي في مجال التنبؤ بالأحكام القضائية، وذلك لأن هذه الخوارزميات تمس حياة الناس بشكل مباشر، ولها أثر قد يكون مؤلم عليهم، بل إن هذا الأثر جعل بعض الباحثين يلقون باللوم على المؤتمرات التي قبلت نشر الأبحاث التي بها مثل هذه الموضوعات الأخلاقية المقلقة، وبالرغم من ذلك، فما زال تحديد الخطوط الحمراء، لأخلاقيات الخوارزميات، يحتاج إلى أن يتم الاتفاق عليه أولًا.