هل نلقي اللوم على الأجهزة؟

في أواخر يوليو من عام 2013، بدأ بابلو غراسيا البالغ من العمر 16 عاما، الذي كان في المستشفى لإجراء عملية تنظير روتينية للقولون لفحص حالة جهازه الهضمي، يشكو من حالة خدر ووخز في جميع أنحاء جسده، وسرعان ما أصابه اختناق. ما الذي سبب هذه الحالة الغريبة؟ تبين أن السبب هو الأدوية التي كان يأخذها: لقد تم اعطاؤه مضادات حيوية 39 مرة زيادة على الكمية اللازمة. كيف حدث هذا يعد موضوعا لقطعة رائعة نشرت في موقع Medium، والتي أحثكم جميعا على قراءتها، لكن إذا كان ينبغي علي تلخيص قيمة أجزائها الخمسة ذات الرؤى الرائعة في جملة واحدة، فإن المقال يصبح كما يلي: «الآلات تجعلنا أغبياء».
على سبيل المثال، أمضيت ثلاثة أشهر سافرتُ فيها خلال الخريف الماضي، مع إجازات قليلة في نهاية الأسبوع في مقاطعة كولومبيا. عند عودتي، كنت قد نسيت رقم هاتفنا الأرضي. صحيح أننا لا نستخدمه بشكل متكرر. مع ذلك، لدينا هذا الهاتف منذ خمس سنوات، ونسيت رقمه في أقل من موسم لكرة القدم.
لكن بالطبع، أنا لم أعد بحاجة لأن اتذكر أرقام الهواتف، حيث ان لدي هاتفي الخلوي لتلك الغاية. لأي معلومة أريدها بسرعة، ألجأ إلى جهاز الكمبيوتر الموجود معي. لأي شيء أريد تعلمه، هنالك جوجل. بمعنى ما، هذا يعني أن لدي ذاكرة أفضل ومعرفة أوسع مما كان لدي سابقا. لكن إذا لم تكن لدي تلك الأدوات، أصبح فجأة معتوهة، وإذا تم إدخال شيء ما بالخطأ إلى جهاز الكمبيوتر، أصبح عاجزة تماما. قبل بضعة أشهر، أرسل الناس رسائل عبر البريد الإلكتروني للاستعلام عن مكان وجودي، ذلك لأن الفريق الذي كنت عضوا فيه كان على وشك البدء. تبين لي أنني وضعت ذلك التاريخ بشكل خاطئ على التقويم، الأمر الذي من السهل جدا أن يحصل بزلة كبسة زر، عفوا.
تعد تلك أخطاء طفيفة، تحدث بسهولة بسبب أمور كشراء وجبة غذاء باهظة الثمن التي دعوتُ إليها أحد منظمي الفريق. لكن بالطبع، تلك الأنواع من الأخطاء ليست مقتصرة على حالات بسيطة مثل فرق السياسات العامة التي تنقصها الأيدي العاملة. كالبرمجية التي كان من المفترض أن تمنع حدوث الأخطاء الطبية، وبدلا من ذلك أسهمت في حصول المريض تقريبا على 40 مرة من الجرعة المطلوبة.
كان هنالك الكثير من الأخطاء البشرية التي أدت إلى تلك النتيجة المروعة، لكن إليكم أهم خطأين في هذا المجال: انعدام اليقظة والثقة المفرطة في النظام الآلي. حاول البرنامج تحذير كل من الطبيب والصيدلي بأنه كان هنالك خطأ ما في الوصفة الطبية. لسوء الحظ، حاول النظام أيضا تحذيرهما من قبل بأن هنالك خطأ ما بنسبة ضخمة من الطلبيات التي تم إدخالها للكمبيوتر. عادة، كانت تلك المشاكل تعتبر أمورا تافهة، لذلك اعتاد الناس إلقاء نظرة عابرة على التنبيهات وتركها. خلاف ذلك، كان ينبغي على المستشفى فعل شيء ليكون كل شخص مسؤولا عن قراءة تنبيهات البرمجيات. لذا، عندما تظهر رسالة لم تكن تافهة، لم يقرأها أحد، أو حتى أنه لم يشاهدها في الواقع.
لكن الفشل الثاني، والأكثر أهمية، هو ما حدث عندما قام النظام بتسليم كل تلك الحبوب للممرضة في الطابق. شعرت هي وكأن هنالك خطأ ما، ومن ثم مضت قدما وأكملت العملية على أي حال، لأن نظام الباركود (الرمز الشريطي) أخبرها بذلك، هذه الوصفة التي كتبها الطبيب.
لا أريد أن أبدو وكأنني أقوم بتوبيخ الممرضة بأنها نوعا ما حمقاء، لكن دعوني أقل لكم إني أعتقد أنها قامت بعمل غبي، لكنه غبي بطريقة نحن جميعا عرضة لها. هنالك سلطة غريبة للنظام الآلي، حيث إن معظمنا يجد من الصعب مقاومته. مع ذلك، تعتبر أجهزة الحاسوب أكثر ذكاء مما نحن عليه -في كل شيء من الحسابات إلى هزيمة بطل بارع في لعبة الشطرنج. من السهل إيقاف إطلاق الأحكام وتسليم القرار للآلة أو الجهاز.
لكن بالطبع، ليست أجهزة الكمبيوتر أكثر ذكاء بالضبط مما نحن عليه. ما هي عليه هو أنها أجهزة جيدة حقا في أداء مهمات منفردة موثوقة الأداء مبرمجة على التعامل معها. ما يجعل البشر ناجحين جدا هو أنه يمكننا الهبوط في بيئة غير متوقعة تماما وربما البقاء على قيد الحياة. أما ميزتنا النسبية فهي الحكم في ظل ظروف غير متوقعة: «الحس السليم». لذا، عندما يخبرنا الكمبيوتر عمل شيء من الواضح أنه عمل أحمق، أين الحس السليم لدينا؟؟
هذا الحس السليم يبرز لدينا عند الحاجة إليه فيما لو استخدمناه بانتظام. في نظام السجلات الورقية القديم، كانت الأخطاء شائعة نسبيا، بالتالي كان الناس أكثر يقظة وتحسبا لها. مع وجود النظم الآلية، تعتبر الأخطاء أكثر ندرة في الحدوث، لذلك يقل احتمال أن نراقب ما تقوم به من عمليات -ما يعني أنه حتى الأخطاء المحتملة الأكبر هي أمور ممكنة. أعطى النظام القديم (القائم على الورق) الكثير من الناس العلاج الخطأ، بالجرعة الخاطئة، لكن أغلب ظني أنه لم يقم قط بإعطاء أي أحد جرعة زائدة مقدارها 39 مرة من المضاد الحيوي. للأسف، ملكة الحُكم لدينا تصاب بالضمور تماما مثل ضمور العضلات.
من غير الواضح ما هو الحل لهذه المشكلة. يقترح روبرت واتشر، مؤلف تلك المقالة التي نشرت في الموقع المذكور ومؤلف كتاب آخر ذي صلة، عددا من الأفكار المستفادة من صناعة هياكل الطائرات، التي أعملت الكثير من الفكر في التأكد من أن الطيارين يحصلون على التنبيهات التي يحتاجونها، دون أن تصل أبدا إلى كمية كبيرة منها ليبدأوا بعدها بتجاهلها. تعد تلك بداية جيدة بالتأكيد، وقال أيضا إن خبراء تدريب الطيارين يبدون قلقهم حول الزيادة الضئيلة في عدد الحوادث عندما يفشل أو يتعطل النظام الآلي، وكذلك الطيارون، الذين يقضون الكثير من الوقت حقيقة في قيادة الطائرة أكثر مما اعتادوا عليه، ينقصهم الحكم للسيطرة وتولي زمام الأمور. هذه مشكلة تتجه أيضا لتصيب السيارات بلا سائق، مهما كان المكان الذي تصل إليه، لذلك دعونا نأمل بأن يعالجها الخبراء. لكن على ما يبدو أنهم لم يقوموا بذلك بعد.
على أية حال، إذا لم يكن لدينا حل، لدينا بعض البدايات الجيدة. أحدها هو العمل على تصميم جيد للآلات، بحيث يصبح من الصعب ارتكاب تلك الأنواع من الأخطاء. لكن البداية الأخرى هي في تذكير الناس أن عقول البشر أفضل من أجهزة الحاسوب في الكثير من الجوانب -لذا، عندما تبدو تعليمات الكمبيوتر مجنونة، ينبغي عليك حينها الوثوق في حكمك، وليس في آلة مجنونة.