الذكاء الاصطناعي يقترب من حدود التحكم البشري

يتجه الذكاء الاصطناعي إلى مرحلة أكثر تعقيدًا مع بروز نماذج قادرة على التعلم أثناء التشغيل، وهو اتجاه حديث يجذب اهتمام الشركات الناشئة والمختبرات البحثية الكبرى، وفي مقدمتها (Google DeepMind)، ويُنظر إلى هذا التوجه بوصفه عاملًا قد يسرّع تطور القدرات التقنية، لكنه في الوقت ذاته يفتح الباب أمام مخاطر جديدة يصعب التحكم بها.
التحسين الذاتي
يُعرف هذا المسار تقنيًا باسم «التحسين الذاتي المتكرر»، وهو نهج يُتوقع أن يسهم في الحفاظ على الوتيرة المتسارعة لتقدم الذكاء الاصطناعي، وفي هذا السياق، أوضح (Demis Hassabis)، الرئيس التنفيذي ل«ديب مايند»، خلال مقابلة على هامش فعالية نظّمها موقع (Axios) في دافوس، أن غوغل تدرس بجدية إمكانية أن تواصل النماذج التعلم «في بيئات العمل الحقيقية» بعد انتهاء مرحلة التدريب التقليدي.
باحث آلي
في سياق متصل، كشف (Sam Altman)، الرئيس التنفيذي لشركة (OpenAI)، خلال بث مباشر العام الماضي، أن الشركة تعمل على تطوير «باحث ذكاء اصطناعي آلي حقيقي» بحلول مارس 2028.
وأظهر تقرير حديث صادر عن مركز الأمن والتكنولوجيا الناشئة في Georgetown University (CSET) أن اعتماد أنظمة الذكاء الاصطناعي في البحث والتطوير بات يتسارع، مع تزايد صعوبة رصد المخاطر والتحكم فيها.
وأشار الباحثون إلى أن هذه الأنظمة أصبحت جزءًا أساسيًا من مسار البحث داخل كبرى شركات الذكاء الاصطناعي، ما يعكس اقتراب مرحلة الأتمتة شبه الكاملة للبحث العلمي في هذا المجال.
اعتماد مفرط
يرى معدّو التقرير أن صانعي السياسات يفتقرون حاليًا إلى رؤية دقيقة حول أتمتة البحث والتطوير، مع اعتماد مفرط على إفصاحات الشركات الطوعية، ودعوا إلى تعزيز الشفافية، وتطوير آليات الإبلاغ، وتحديث أطر السلامة، محذرين من أن السياسات غير المدروسة قد تأتي بنتائج عكسية.
وتعيد فكرة النماذج القادرة على التعلم الذاتي إلى الأذهان تجربة «ألفا زيرو» التي طوّرتها «ديب مايند» عام 2017، حين تمكن النموذج من تعلم ألعاب معقدة مثل الشطرنج دون بيانات بشرية مسبقة.
قدرة الذكاء
قال (Richard Socher)، الرئيس التنفيذي لشركة (You.com)، إن «الذكاء الاصطناعي في جوهره شيفرة برمجية، وقادر على البرمجة، وإذا أُغلقت هذه الحلقة بطريقة صحيحة، يمكن أتمتة المنهج العلمي لخدمة البشرية».
وذكرت (Bloomberg) أن سوشر يسعى لجمع مئات الملايين من الدولارات في جولة تمويلية قد ترفع قيمة شركته الناشئة الجديدة إلى نحو 4 مليارات دولار.
ويخلص مراقبون إلى أن التحسين الذاتي المتكرر قد يشكل القفزة الكبرى التالية في قدرات الذكاء الاصطناعي، لكنه في الوقت نفسه يقرّب التقنية من تعقيد العالم الحقيقي، حيث تصبح الأخطاء وسوء الاستخدام والعواقب غير المقصودة أكثر صعوبة في الاحتواء.
تحدّي السيطرة على الذكاء الاصطناعي
- نماذج قادرة على التعلّم الذاتي بعد انتهاء مرحلة التدريب.
- تسارع غير مسبوق في تطوير النماذج والقدرات.
- تغيّر السلوك دون تحديثات بشرية مباشرة.
- قرارات معقّدة يصعب تفسير منطقها التقني.
- فجوة متزايدة بين سرعة التطوير وأطر الحوكمة.
- اعتماد متنامٍ على الأنظمة الآلية في البحث والتطوير.
- صعوبة رصد الأخطاء قبل ظهور آثارها.
- تحديات في الاحتواء عند سوء الاستخدام.
- مخاطر عواقب غير مقصودة على المدى البعيد.
- حاجة ملحّة لتحديث أنظمة الرقابة والسلامة.