في عالم تديره الخوارزميات، كيف نحافظ على إنسانيتنا

إذا اتُهمتَ بارتكاب جريمة، هل تُفضِّل أن تُعرَض أمام كمبيوتر مبرمج بواسطة خوارزمية رياضية لا تعرف التحيز أو التعاطف، أم تُعرَض أمام قاضٍ بشري عُرضَة للتعاطف أو الخطأ؟ ماذا لو كنتَ ترغب في شراء سيارة بدون سائق وعليك الاختيار بين سيارة مبرمجة لإنقاذ أكبر عدد ممكن من الأرواح، وأخرى تعطي الأولوية لحياة ركابها؟
هل توافق على مشاركة التاريخ الطبي الكامل لعائلتك إذا قيل لك إن ذلك سيساعد الباحثين على ابتكار علاج أفضل لمرضي السرطان؟
هذه فقط بعض المُعضلات التي بدأنا نواجهها ونحن نَلِج عصر الخوارزميات، عصر الذكاء الاصطناعي، العصر الذي تسود فيه الآلة وتتحكم – عبر خوارزميات - في جوانب عديدة من حياتنا. تخبرنا البرمجيات بما يُفضل أن نشاهده، وأين نذهب. لكن نظرًا لأننا نعتمد على الخوارزميات لأتمتة قرارات كبيرة ومهمة - في الجريمة والعدالة والرعاية الصحية والنقل والمال – فإن هذا الأمر يثير تساؤلات حول ما نريد أن يبدو عليه عالمنا.
ماذا يهمنا أكثر وأيها يمثل أولوية: مساعدة الأطباء على التشخيص الدقيق والصحيح، أم الحفاظ على الخصوصية، حماية ضحايا الجريمة، أم منع الأبرياء من اتهامهم زورا؟!
في كتاب (مرحبا أيها العالم) تعرض هانا فراي - أستاذة الرياضيات في جامعة كوليدج بلندن - الفوائد والمخاطر المحتملة لعالم تديره الخوارزميات بشكل متزايد. تأخذنا فراي في جولة عبر الخوارزميات السيئة والمفيدة التي تحيط بنا، باعتبارها قلب الذكاء الاصطناعي، وتوضح كيفية عملها، والطرق التي يمكن بها كتابة التحيز البشري في كود.
من خلال قصص واقعية، تساعدنا على فهم مدى قوة الخوارزميات، وحدودها، وإلى أي مدى يمكن أن تحل محل الأنظمة البشرية.
تطرح فراي مجموعة من التساؤلات الفلسفية من قبيل: ما المبدأ الذي يجب أن نسير عليه في هذه الحياة، وما حدود استخدامنا للآلة؟ هل ينبغي أن نترك الآلة تُسيِّرنا في هذه الحياة؟ هل الحياة الإنسانية ستصبح أفضل وأكثر سعادة في ظل سيطرة الآلة أم لا؟
تُعرَّف الخوارزمية بأنها إجراء تدريجي لحل مشكلة أو لإنجاز مهمة. فيما يتعلق بأجهزة الكمبيوتر، الخوارزميات هي سلسلة من العمليات الحسابية توظف المعادلات والحساب والجبر وحساب التفاضل والتكامل والاحتمال والمنطق وتترجمه في شكل أكواد أو رموز. هناك أربع نقاط نهائية عامة يتم توجيه الخوارزمية إليها: تحديد الأولويات؛ والتصنيف؛ وتحديد الارتباطات؛ وأخيرا التصفية أي عزل ما هو مهم.
إن الآلة لا «تفكر» بقدر ما تتبع تعليمات متسلسلة. لذا يجب على المتخصصين كتابة هذه التعليمات بدقة وحكمة ووضعها في تسلسل صحيح. ولأن القدرة البشرية على الترميز تعلب دورًا رئيسيًا في كتابة الخوارزميات، فإن دقة هذه الخوارزميات وقدرتها على التنبؤ تتوقف على مهارة وبصيرة مطوريها. تقوم أجهزة الكمبيوتر اليوم، باستخدام خوارزميات معقدة، بتسهيل الكثير من المهام بفاعلية كبيرة، فعند فحص تحليلات المرضى أو الأشعة السينية للخلايا السرطانية والأورام، يقوم الكمبيوتر بهذه المهام بدقة أكبر وأسرع بكثير من البشر، كما يقوم بتوجيه بيع وشراء الأسهم والسندات وإنتاج الموسيقى والرسومات واللوحات والأعمال الفنية الأخرى.
ولكنها تكون أقل نجاحًا بشكل واضح عند التعامل مع مهام من قبيل التنبؤ بالأشخاص الذين قد يرتكبون جريمة أو الذين سوف يعودون إليها. ليس من السهل تقليص بعض المهام التي تبدو سهلة للإنسان إلى خطوات رياضية بسيطة.
في مثل هذه الحالات، بغض النظر عن مدى تعقيد الخوارزمية، يواجه العلماء صعوبة كبيرة في توجيه الكمبيوتر لإنتاج الإخراج المطلوب. بعض الأمثلة تتضمن توليد العواطف، أو التعاطف، أو استخدام ما يعتبره الإنسان «الفطرة السليمة»، أو كتابة دفوع قانونية مقنعة أو مقالات افتتاحية، أو إنتاج فن أصيل. تذكر فراي أنها عندما أنهت الدكتوراه عملت مع مسؤولين في لندن للنظر فيما حدث أثناء أعمال شغب لندن في عام 2011، حيث حصلت على بيانات من الشرطة وحاولت وضع تنبؤات حول ما سيحدث، وأين سيتجمع مثيرو الشغب. كان القصد أن يصبح هؤلاء المسؤولين قادرين على التنبؤ أين ستتحرك أعمال الشغب.
لكنها لاحظت أن المسؤولين يستخدمون خوارزميات دون المستوى. واعتقدت أن الأشخاص الذين يكتبون هذه الخوارزميات لا يتحدثون مع الأشخاص الذين يستخدمونها، والأشخاص الذين يستخدمونها لا يتحدثون مع الأشخاص الذين ستتغير حياتهم بقراراتهم. وأعتقد أنه كان من المهم حقًا سد الفجوات بين هذه المجموعات الثلاث.
في أحد فصول الكتاب تعود لتحذر من كيفية تعامل شركات التكنولوجيا مع بياناتنا الشخصية ومقدار البيانات التي يمتلكونها. هذه الشركات تعتمد التجميع المستمر ل«الفائض السلوكي»، أو عادم البيانات الذي ننتجه كجزء من المسار العادي لتصفح الإنترنت، واستخدام التطبيق والاستهلاك الرقمي، مما يسمح لها بعمل استنتاجات متطورة حول من نحن وماذا نريد وكيف من المحتمل أن نتصرف، ومن ثم التلاعب بنا. للأسف نحن ندفع أموالنا لإعطاء هذه الشركات مزيدا من القيمة والسيطرة! تدافع فراي عن التكنولوجيا، لكنها أيضا حريصة على ألا نضع الكثير من اليقين حولها.
تشرح فراي كيف تم التلاعب بالناخبين في العديد من البلدان بواسطة وسائل التواصل الاجتماعي. لكن في المقابل، البشر أيضا ليسوا مثاليين. فقد يفشل الأطباء في تشخيص الأمراض، وقد يتسبب بعض الطيارين في تحطم الطائرات.
ولكن بالعمل معًا، يمكن أن يشكل كل من الإنسان وآلة الذكاء الاصطناعي فريقا مثاليًا. تقدم فراي قضية مقنعة للحاجة الملحة لتنظيم الخوارزميات، لكن تريد منا أن نفهم التسويات التي نقدمها، «نحن لدينا ميل إلى الوثوق بأي شيء لا نفهمه».
وإذا لم نفهم ذلك، فسيتم الإجابة على هذه الأسئلة الصعبة من قبل من يفعلون ذلك، وهم شركات التكنولوجيا والأدوية، وما شابه.
لقد حان الوقت لسحب الستار على الخوارزميات التي تشكل حياتنا. وأخيرًا، علينا جميعا أن نضع الإنسان في المرتبة الأولى وأن نذكر أنفسنا دومًا بأن التقنيات هي مجرد أدوات صنعها الإنسان من أجل الإنسان.