Facebook تكافح الانتحار بالذكاء الاصطناعي

تبنت شركة «فيسبوك» مشروعا لمكافحة الانتحار بواسطة الذكاء الاصطناعي، إذ يعمل المشروع، حسب تقرير نشره «Business Insider»، وفق آلية تتضمن تتبع سلسلة من عمليات الانتحار التي بثت بشكل مباشر عبر المنصة، ويتم ذلك باستخدام خوارزمية تتحقق من العلامات المحتملة لإمكان الإقدام على الانتحار، وتلافي المشكلة بشكل استباقي.


------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------

أفرد تقرير لموقع «Business Insider» الإخباري الأميركي، شرحا لآلية مشروع شركة «فيسبوك» لمكافحة الانتحار بواسطة الذكاء الاصطناعي، والذي أطلقته في مارس 2017، إذ تعمل الآلية خلال تتبع سلسلة من عمليات الانتحار التي بثت بشكل مباشر عبر المنصة، وتم ذلك باستخدام خوارزمية تتحقق من العلامات المحتملة لإمكان الإقدام على الانتحار، وتلافي المشكلة بشكل استباقي.

فضائح الخصوصية
بعد سنة من موجة فضائح الخصوصية التي أثارت الشكوك في استخدام فيسبوك للبيانات، ففكرة أن فيسبوك تنشأ وتخزن بيانات الصحة النفسية القابلة للتنفيذ دون إذن المستخدم قد جعلت كثيرا من خبراء الخصوصية يقلقون فيما إذا كان بالإمكان الوثوق في فيسبوك، لإنشاء وتخزين مدلولات عن أكثر التفاصيل الحميمية في عقولنا.

اختلاف الخدمات
أنشأت فيسبوك معلومات صحية جديدة عن المستخدمين، لكنها ليست مقيدة بمعايير مقدمي الرعاية الصحية نفسها، فقوانين حماية البيانات التي تحكم المعلومات الصحية في الولايات المتحدة حاليا، لا تنطبق على البيانات التي تنشئها خوارزمية الانتحار في فيسبوك، وذلك وفقا لما أكدته «ناتاشا دوارت» المحللة في مركز التكنولوجيا والديمقراطية في الولايات المتحدة «أن المعلومات عن صحة الشخص معلومات محمية من قانون التأمين الصحي، وقابلية التأمين (HIPAA) التي تفرض حماية الخصوصية، ولكن هذه القوانين تنطبق فقط على المؤسسات التي تقدم خدمات الرعاية الصحية، مثل المستشفيات وشركات التأمين».
المخاطر العالية

أكد خبراء الخصوصية أن تخزين مثل هذه المعلومات الحساسة يعد من المخاطر العالية دون الحماية المناسبة، والخطورة الأشد وضوحا هي تعرض المعلومات لاختراق البيانات. ففي سبتمبر الماضي، كشفت فيسبوك عمليات اختراق بيانات كبرى فضحت ملفات حوالي 30 مليون شخص بالنسبة ل400 ألف من هذه المشاركات، والصور كانت مفتوحة، ولم تقم فيسبوك بالتعليق عما إذا كانت البيانات من خوارزميتها لمكافحة الانتحار أم لا.
تقييم الخوارزمية
تلامس الخوارزمية تقريبا كل مشاركة على فيسبوك، بحيث تقوم بتقييم كل محتوى على مقياس من صفر إلى 1، إذ إن 1 يمثل أعلى احتمالية ل«الضرر الوشيك»، وذلك وفقا لتمثيل فيسبوك، وبمجرد أن تتلقى مشاركة معينة على علامة الخطورة المحتملة للانتحار، يتم إرسالها إلى فريق مشرفي المحتوى في فيسبوك.

مشرفو المحتوى
لم تتطرق فيسبوك إلى التفاصيل التي تخص تدريب مشرفي المحتوى، والذي تلقوه عن الانتحار، ولكنها أصرت على أنهم مدربون على فحص المشاركات بشكل دقيق، للكشف عن أي مخاطر انتحار محتملة، فإذا قام أحد المراجعين بتقييم المشاركة على أنها تحوي معلومات عن خطر وشيك ومحتمل، يتم تصعيد المشاركة لفريق يكون ذا خبرة وتجاوب سريع، وذلك وفقا لفيسبوك التي قالت إن «الموظفين المختصين لديهم خلفيات تراوح بين تنفيذ القانون وحتى الخطوط الهاتفية الساخنة للانتحار والاغتصاب. وهؤلاء الموظفون الخبراء يمتلكون صلاحية للحصول على معلومات تخص الشخص الذي كتب المشاركة التي تمت مراجعتها».
تدخل الشرطة
بمجرد الانتهاء من المراجعة، يمكن للمراجعين تنفيذ أحد الإجراءين التاليين:
أن يقوموا بإرسال معلومات المستخدم المقبل على الانتحار، أو التواصل مع مسؤولي الحالات الطارئة. وأوضحت دورات، أن «قيام فيسبوك بتسليم معلومات المستخدم للشرطة يعدّ أكثر مخاطر الخصوصية لهذا البرنامج».
إيقاف الإمكانية
تستخدم فيسبوك خوارزمية الانتحار لفحص المشاركات باللغة الإنجليزية
والإسبانية والبرتغالية والعربية، ولكنها لا تفحص المشاركات في الاتحاد الأوروبي، إذ تم إيقاف إمكان استخدام الخوارزمية في الاتحاد الأوروبي، بسبب قوانين حماية الخصوصية التابعة للنظام الأوروبي لحماية البيانات العامة، والذي يطلب من المستخدمين إعطاء المواقع إذنا محددا لجمع المعلومات الحساسة، مثل تلك التي تتنبأ بصحة الشخص النفسية.
احتمالات جيدة
معظم الخبراء في الخصوصية والصحة العامة الذين تحدثوا عن هذا الموضوع، اتفقوا على أن خوارزمية فيسبوك ذات احتمالات جيدة. ووفقا لمنظمة الصحة العالمية، فإن حوالي 800 ألف شخص ينتحرون سنويا، وأكثرهم من المراهقين والفئات الضعيفة، مثل: المثليون جنسيا والشعوب الأصلية المحلية.


عمل الخوارزمية
تقييم كل مشاركة على فيسبوك من صفر إلى 1
1 يمثل أعلى احتمالية للضرر الوشيك
إذا تلقت مشاركة علامة الخطورة المحتملة للانتحار، يتم إرسالها إلى فريق مشرفي المحتوى فيسبوك
إذا قُيّمت المشاركة على أنها تحوي معلومات عن خطر وشيك، يتم تصعيد المشاركة لفريق يكون ذا خبرة وتجاوب سريع
بمجرد الانتهاء من المراجعة، يتم تنفيذ أحد الإجراءين التاليين:
إرسال معلومات المستخدم المقبل على الانتحار
التواصل مع
مسؤولي الحالات الطارئة