7 مبادئ تحكم التطوير والاستخدام وحوافز للابتكار.. «سدايا» ترسم إطاراً أخلاقياً لتقنيات الذكاء الاصطناعي

طرحت الهيئة العامة للبيانات والذكاء الاصطناعي"سدايا"، مسودة "سياسة الذكاء الاصطناعي المسؤول"، التي تحدد المبادئ والتوجهات والمتطلبات التنظيمية للتعامل مع تقنيات الذكاء الاصطناعي بمختلف أنواعها ومجالاتها وتطبيقاتها، بما يضمن حماية الأفراد والمجتمع، وصون القيم الوطنية.
وتهدف السياسة، التي نشرتها الهيئة عبر منصة"استطلاع" لأخذ مرئيات العموم بشأنها تمهيداً لإقرارها، إلى تعزيز التوازن بين التبني والابتكار والاستخدام المسؤول، ورفع الجاهزية للتصدي للمخاطر الحرجة والعالية، وترسيخ وضوح الأدوار والمسؤوليات عبر دورة حياة الذكاء الاصطناعي، كما تدعم التبني والابتكار المسؤول؛ لتعزيز الثقة في أنظمة الذكاء الاصطناعي.
حددت "سدايا" سبعة مبادئ أساسية، تشكل المرجعية الأخلاقية لتطوير وتشغيل واستخدام أنظمة الذكاء الاصطناعي داخل المملكة ، ومنها تشدد السياسة على ضرورة خلو الأنظمة من التحيز أو التمييز، وضمان العدالة في اتخاذ القرارات، مع الاعتماد على بيانات دقيقة ومتوازنة تحقق تكافؤ الفرص، ويجب أن تضمن أنظمة الذكاء الاصطناعي وجود خوارزميات مطورة بطريقة تجعل تكوينها خالياً من المغالطات والتحيز.
تلتزم الجهات بحماية بيانات الأفراد ومنع الوصول غير المصرح به، مع تطبيق أعلى معايير الأمن السيبراني طوال دورة حياة البيانات.
يجب أن يخدم الذكاء الاصطناعي الإنسان، ويحترم كرامته وحقوقه، وقيمه ومبادئه الإنسانية والثقافية، دون التسبب في أضرار جسدية أو نفسية أو اجتماعية.
تركز على توظيف الذكاء الاصطناعي لتحقيق التنمية المستدامة وتعزيز جودة الحياة دون الإضرار بالمجتمع أو البيئة.
تفرض السياسة تطوير أنظمة آمنة ومستقرة وقابلة للاختبار المستمر، مع اتخاذ تدابير استباقية لتجنب الأخطاء والمخاطر.
تدعو إلى توضيح أهداف الأنظمة وآلية عملها بشكل مناسب، وتمكين المستخدمين من فهم مخرجاتها دون الإخلال بالأسرار التقنية.
تحمل جميع الأطراف– مطورين ومشغلين ومستخدمين– المسؤولية الكاملة عن نتائج الأنظمة، مع ضرورة وجود آليات رقابة ومعالجة للمخاطر.
توازن السياسة بين دعم التبني والابتكار في مجال الذكاء الاصطناعي وتعزيز الاستخدام المسؤول والآمن، من خلال توفير بيئة تنظيمية ممكنة ومحفزة، تسهم في تحفيز التطوير والاستثمار، ورفع مستوى الثقة في أنظمة الذكاء الاصطناعي المستخدمة في المملكة، وذلك من خلال عدة حوافز ممكنة:
– تمكين التبني المسؤول للذكاء الاصطناعي في القطاع العام والخاص وغير الربحي؛ لرفع وتعظيم الإنتاجية والكفاءة التشغيلية وتحسين جودة المخرجات وتقليل الهدر والتكاليف التشغيلية.
– تعزيز البيئة التمكينية للابتكار في الذكاء الاصطناعي من خلال التركيز على تطوير منظومة متكاملة من الممكنات، مثل إتاحة البيانات الموثوقة وآلية تدريب الأنظمة عليها، وتنمية الكفاءات والقدرات الوطنية، وتوفير بنية تحتية رقمية داعمة.