الإنسان أم الخوارزمية من صاحب القرار

شبّه أحد خبراء معهد كارنيجي لأبحاث السلام وجود ذكاء صناعي مساعد في اجتماعٍ للأمن القومي الأمريكي بوجود هنري كيسنجر على الطاولة! شخصية ذات حضور طاغٍ يصعب تجاوز رأيها، مما قد يُقصي حتى أصحاب الخبرة والابتكار، خصوصًا في الأوقات الحرجة.
ما مدى تأثير الذكاء الصناعي في اتخاذ القرارات الحاسمة، وهل يقصر فعلاً زمن اتخاذ القرار أم يطيله؟! لقياس هذا التأثير طالعتُ دراسة حديثة بعنوان «كيف يمكن أن يؤثر الذكاء الصناعي في ظل وجود أزمة للأمن القومي» نشرها معهد كارنيجي على موقعه الإلكتروني في أواخر النصف الأول من 2024، صمم فيها خبراء سيناريو لأزمة افتراضية، تفرض فيها الصين حصارًا على تايوان، وجمعوا مجموعة خبراء تقنيين، وإقليميين، لتحليل دور الذكاء الاصطناعي في مثل هذه الأزمات، ودرسوا تحديدًا أثر انتشار قدرات الذكاء الاصطناعي المتقدمة حول العالم على سرعة صنع القرار، وعلى التصورات الخطأ، وعلى التفكير الجماعي أيضًا، وعلى البيروقراطية، وخرجوا باستنتاجات لم تكن متوقعة!
وجدوا أنه على الرغم من قدرة الذكاء الاصطناعي على تحليل البيانات وتوليفها بسرعة تفوق البشر، وبالتالي توفير وقت ثمين -مبدئيًا- في مرحلة التحليل؛ إلا أن نتائجه قد تُبطئ عملية اتخاذ القرار. والسبب؟ أن الأنظمة الذكية تُنتج كمًا كبيرًا من البيانات الجديدة، مما يستدعي مراجعتها وتفسيرها قبل الوثوق بتوصياتها. وهذا يعني أنها تُثير أسئلة بقدر ما تُجيب!
بيّنت الدراسة أن صناع القرار يطالبون أولاً بفهم خلفيات توصيات الذكاء الاصطناعي، فعندما عُرِضَت خيارات عسكرية محتملة وشُرِحَت عواقبها للخبراء، طلبوا معرفة مزيد عن نظام الذكاء الاصطناعي الأساسي ليتمكنوا من تفسير توصياته، ومقارنتها بمصادر تقليدية وخبراء بشريين، قبل اتخاذ موقف. إذن فهذه الأنظمة ليست سوى «صوت آخر» يحتاج إلى كسب ثقة متخذ القرار، وليست بديلًا منفردًا بذاته.
ناقشت الدراسة أيضًا مزايا إيجابية لاستخدام الذكاء الاصطناعي، إذ يمكن أن يُسهم في تقليل بعض التحيزات البشرية، مثل تحيز الحداثة (الذي يدفع الأفراد إلى تفضيل المعلومات الأحدث) أو تحيز الترسيخ (الذي يدفع الأفراد إلى التركيز على الخيارات المعروضة أولاً) ويكسر التفكير الجماعي الذي يعني الانجراف نحو رأي الأغلبية دون نقد، خصوصاً في المجموعات الصغيرة. وهذا يعني توسيع نطاق الخيارات المدروسة. طول المدة الناتجة عن هذه الإجراءات قد يكون مجديًا بشرط أن يؤدي إلى قرارات أفضل بحسب الباحثين.
لكن في المقابل؛ رأى الباحثون أنه إذا ما مُنح الذكاء الاصطناعي ثقة مفرطة، فقد يُغذي التفكير الجماعي بدلاً من كسره، ويُفضي إلى قرارات متسرعة أو منقوصة، بخاصة إذا كان لدى صناع القرار ثقة مبالغ فيها بقدرات الذكاء الصناعي. وهذا يردُّنا إلى بداية المقال عن الضغط الذي يشكله التفكير الجماعي على القرار، كوجود هنري كيسنجر على الطاولة مع عدد من تلامذته.. فكيف بمخرجات ذكاء صناعي توليدي ناتج عن بيانات ضخمة؟
الأخطر من ذلك أن هذه الأنظمة تتأثر بالخوارزميات والافتراضات التي بُنيت عليها، ما يجعلها تعكس– بشكل غير مقصود– تحيُّزات مطوريها، كاختيار مصادر بيانات معينة، أو تفضيل نماذج تحليل على أخرى. وهذا يعني أن السلطة الحقيقية قد تميل لصاحب الخوارزمية، لا لصانع القرار الظاهري.
ذهبت الدراسة إلى أبعد من ذلك: ناقشت حالة عدم اليقين التي قد يخلقها الذكاء الصناعي أو يزيدها في ما يتعلق بنوايا الخصوم، وهل تصوراته عن الخصوم دقيقة؟ وهل يعرف إن كان يواجه إنسانًا أم آلة مثله؟ وأثر المدخلات غير الدقيقة كالفيديوهات المزيفة على مخرجات الذكاء الصناعي، وأزيد عليها: احتمالية تفوُّق ملاحظة البشر والخبراء التقليديين على الذكاء الصناعي.. على الأقل في ما يتعلق بتفسير نوايا الخصم أو ملاحظة المدخلات المزيفة أو غير الدقيقة، وقدراته التخيلية في سياق معين مقارنة بالبشر وخبراتهم غير المضمنة في الذكاء الصناعي.
تفاصيل الدراسة القصيرة مشوقة وتفتح مزيدًا من الأسئلة حول تأثير الذكاء الاصطناعي ومدى الاستفادة العظمى من مزاياه، وتُمهد لمناقشات أوسع حول من يُمسك فعليًا بزمام القرار في دول العالم المتقدم في زمن تتشارك فيه العقول البشرية والخوارزميات نفس الطاولة.