ارتفاع الأسهم الآسيوية    أكثر من مئة منظمة تحذّر من "مجاعة جماعية" في غزة    الصين تعلن تقديم "احتجاجات رسمية" للاتحاد الأوروبي    رئيس هيئة الإذاعة والتلفزيون يبحث مع السفير السريلانكي فرص التعاون الإعلامي المشترك    نجم يكشف أسرار منكب الجوزاء    سوري يشتري عملات ويسلمها للمتحف    مجسات ذكية لراحة مرضى السكري دون ألم    أسباب وعواقب إدمان الحلويات    لماذا غسل الدجاج غير مستحب    فريق التنسيق الآسيوي يبدأ زيارته الرسمية إلى الرياض لمتابعة التحضيرات القارية    أمير حائل يكرم «طبيباً استشارياً»    ترحيب سعودي ببيان الشركاء الدوليين المطالب بإنهاء الحرب على غزة    أكد وجود انتهاكات جسيمة.. لجنة تقصي الحقائق تسلم تقريرها للرئيس السوري    رئيس الوزراء يدعو لتعزيز التواجد في عدن.. تحذير يمني من وجود المقرات الأممية بمناطق الحوثي    تصاعد الضغوط لإنجاز اتفاق وقف النار بغزة    نائب أمير الرياض يؤدي صلاة الميت على والدة عبدالرحمن بن فرحان    عزز صفوفه بالخيبري.. الأهلي يشارك في السوبر بديلاً للهلال    النصر يتراجع عن صفقة هانكو.. ويخسر الجابر    المملكة وبريطانيا تبحثان تعزيز التعاون الأمني    11 معياراً أساسياً لقياس الأداء.. الطيران المدني: مطار الملك خالد الدولي الأول في نسبة الالتزام ب 82 %    أكد دعم سوريا لضمان أمنها واستقرارها.. مجلس الوزراء: السعودية تدعو لاتخاذ قرارات عملية أمام التعنت الإسرائيلي    استطلاع عدلي.. "تطوير خدمة المستفيدين" أولوية    "صواب" تحتفي بمتعافي الإدمان    إطلاق جمعية سقيا الماء بجازان    "البيئة": تمديد مهلة رخص مياه الآبار لمدة عام    مجلس الوزراء يدعو المجتمع الدولي لسرعة اتخاذ قرارات عملية أمام التعنت الإسرائيلي    إطلاق كود"البنية التحتية" بمنطقة الرياض بعد 15 يوماً    «بدر الجنوب».. وجهة تنتظر الاستثمار    المنتخب السعودي يشارك في أولمبياد الأحياء الدولي    وزير الداخلية يلتقي منسوبي الوزارة المبتعثين في بريطانيا    اختتام تدريب الخطباء بتبوك    منسوبات واعي يطلعن على مركز التراث وبيت الحرفيين بجازان    منع الفنان راغب علامة من الغناء في مصر    سبعة آلاف طفلٍ في مركز ضيافة المسجد النبوي    حكمي.. قصة تحدٍ ملهمة في عالم التوحد وحفظ القرآن    دينية الحرمين توقع اتفاقية تعاون لبرامج نوعية    مفوض إفتاء جازان يستقبل منسوبي إدارة جمعية سقيا الماء    أوبك تحذر من خطورة تداعيات فقر الطاقة وتضع الحلول    تنفيذاً لتوجيهات سمو ولي العهد.. منتدى استثمار (سعودي – سوري) في دمشق    جذور العدالة    "هلال مكة" يفعل مساراته الطبية الإسعافية القلبية والدماغية    155 ألف مستفيد من خدمات مستشفى ينبع    السعودي محمد آل نصفان يحقّق إنجازاً تاريخياً في الاسكواش العالمي    تداول يفقد 137 نقطة    الإسناد نموذج تشاركي يعزز جودة الخدمات    جولة أمير جازان ترسم ملامح المستقبل والتنمية في فيفاء والعيدابي    ميلان يتعاقد مع المدافع الإكوادوري إستوبينان    جمعية اللاعبين القدامى بالشرقية تكرّم المدرب الوطني حمد الخاتم    نبض العُلا    قوميز يستأنف تدريبات الفتح ويُطلق أولى ودياته المحلية لرفع الجاهزية    أمير جازان ونائبه يتفقدان عددًا من المشروعات التنموية والسياحية بمحافظة فيفاء    الجامعة العربية تدعو المجتمع الدولي لكسر حصار غزة    الأمير محمد بن عبدالعزيز يستقبل رئيس ووكلاء جامعة جازان    البيئة تعلن تمديد مهلة الحصول على رخص استخدام مياه الآبار لمدة عام    السعودية ترحب بمطالبة دولية لإنهاء حرب غزة    تقنية تحسن عمى الألوان    المفتي يطلع على أعمال جمعية البر    رئيس باكستان يمنح رئيس أركان القوات البحرية وسام "نيشان الامتياز" العسكري    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



روبوتات الذكاء الاصطناعي تصطدم بكوارث الأمن والخصوصية
نشر في الوطن يوم 19 - 04 - 2023

تتسابق شركات التكنولوجيا لتضمين نماذج لغة الذكاء الاصطناعي في العديد من المنتجات لمساعدة الأشخاص على القيام بكل شيء بدءًا من حجز الرحلات إلى تنظيم التقويمات الخاصة بهم لتدوين الملاحظات في الاجتماعات.
لكن الطريقة التي تعمل بها هذه المنتجات - تلقي التعليمات من المستخدمين ثم البحث في الإنترنت عن إجابات - تخلق الكثير من المخاطر الجديدة. باستخدام الذكاء الاصطناعي، يمكن استخدامها في جميع أنواع المهام الخبيثة، بما في ذلك تسريب المعلومات الخاصة للأشخاص ومساعدة المجرمين في التصيد الاحتيالي والبريد العشوائي والاحتيال. يحذر الخبراء من أننا نتجه نحو «كارثة» تتعلق بالأمن والخصوصية.
بوت السناب
واجه مستخدمو «سناب شات» تحذيرات بشأن «بوت السناب» الذي أثار اهتمام مستخدمي التطبيق مؤخرا، ولاقى تفاعلا في مواقع التواصل الاجتماعي، حيث أضافت الشركة روبوت دردشة يعمل بالذكاء الاصطناعي «My AI»، ورأى العديد أنه سيضيف لهم المتعة من خلال الفضفضة والمحادثات فيما اعتبره آخرون مهددا للخصوصية.
تحميل إجباري
كشف راكان الروقي المهتم بأمن البيانات أن الروبوت كان في السابق إجباريا والآن لم يعد كذلك وبالإمكان حذفه من خلال الدخول على إعدادات الدردشة في السناب ومن ثم المسح من موجز الدردشة، والسبب في كونه لم يعد إجباريا هو تأثير الجمهور أو المستخدم أو العامة بشكل عام لأنهم هم بالأساس القوة ومن يقرر فهم من يزود الشركات بالمادة، بمعنى أنه لو لم يكن المستخدم موجودا بالتالي لا يمكن للشركات أن تستمر، لذلك رأوا أن يكون اختياريا خوفا على معلومات الأشخاص وأيضا وعيهم بالحفاظ على الخصوصية.
مخاطر عامة
أشار إلى أن تقنيات الذكاء الاصطناعي موجودة سابقا وليست بحديثة، وكانت تستخدم في التطبيقات التي نستخدمها في حياتنا اليومية، ونتعايش معها وأقرب مثال ظهور الإعلانات أو الصفحات المفضلة لنا، وهذه أمور قديمة فيما يتعلق بأنظمة الذكاء الاصطناعي، لكن دخول هذه الأنظمة والنماذج للعامة الآن بها مخاطر فعليا على الخصوصية. وفيما يتعلق بأنظمة روبورت السناب لو تم طرح أسئلة معينة عليه ستكون الإجابة بدعم أجندة خارجية وسياسات تضعها الشركات المسؤولة، بينما البيانات هذه ممكن أن يتم تسجيلها لدى الشركة ذاتها وهذه أخطر من روبورت السناب بمراحل خصوصا النماذج المتقدمة منها.
كسر الحماية
نماذج لغة الذكاء الاصطناعي التي تشغل روبوتات المحادثة مثل ChatGPT و Bard و Bing تنتج نصا يقرأ مثل شيء كتبه إنسان. إنهم يتبعون التعليمات أو «المطالبات» من المستخدم ثم يولدون جملة من خلال التنبؤ، على أساس بيانات التدريب الخاصة بهم، بالكلمة التي من المرجح أن تتبع كل كلمة سابقة. لكن الشيء الذي يجعل هذه النماذج جيدة جدًا - حقيقة أنها تستطيع اتباع التعليمات - يجعلها أيضًا عرضة لسوء الاستخدام. يمكن أن يحدث ذلك من خلال «الحقن الفوري»، حيث يستخدم شخص ما محفزات توجه نموذج اللغة لتجاهل الاتجاهات السابقة وحواجز الأمان.
المساعدة في الاحتيال والتصيد
هناك مشكلة أكبر بكثير من جيلبريك التي تنتظرنا. في أواخر مارس، أعلنت شركة OpenAI أنها تسمح للأشخاص بدمج ChatGPT في المنتجات التي تتصفح الإنترنت وتتفاعل معها. تستخدم الشركات الناشئة هذه الميزة بالفعل لتطوير مساعدين افتراضيين قادرين على اتخاذ إجراءات في العالم الحقيقي، مثل حجز الرحلات الجوية أو وضع الاجتماعات في تقاويم الأشخاص. يقول فلوريان ترامير، الأستاذ المساعد لعلوم الكمبيوتر في ETH Zürich الذي يعمل في أمن الكمبيوتر والخصوصية والتعلم الآلي: «أعتقد أن هذا سيكون كارثة إلى حد كبير من منظور الأمان والخصوصية». نظرا لأن المساعدين الافتراضيين المحسّنين بالذكاء الاصطناعي يكشطون النصوص والصور من الويب، فهم منفتحون على نوع من الهجوم يسمى الحقن الفوري غير المباشر، حيث يغير طرف ثالث موقع الويب عن طريق إضافة نص مخفي يهدف إلى تغيير سلوك الذكاء الاصطناعي. يمكن للمهاجمين استخدام وسائل التواصل الاجتماعي أو البريد الإلكتروني لتوجيه المستخدمين إلى مواقع الويب التي تحتوي على هذه المطالبات السرية. بمجرد حدوث ذلك، يمكن التلاعب بنظام الذكاء الاصطناعي للسماح للمهاجم بمحاولة استخراج معلومات بطاقة ائتمان الأشخاص، على سبيل المثال.
يمكن للجهات الخبيثة أيضًا إرسال بريد إلكتروني إلى شخص ما يحتوي على حقنة فورية مخفية فيه. إذا كان المتلقي يستخدم مساعدًا افتراضيًا للذكاء الاصطناعي، فقد يتمكن المهاجم من التلاعب به لإرسال معلومات شخصية للمهاجم من رسائل البريد الإلكتروني للضحية، أو حتى إرسال بريد إلكتروني إلى الأشخاص الموجودين في قائمة جهات اتصال الضحية نيابة عن المهاجم.
يقول أرفيند نارايانان، أستاذ علوم الكمبيوتر بجامعة برينستون: «بشكل أساسي، يمكن لأي نص على الويب، إذا تمت صياغته بالطريقة الصحيحة، أن يجعل هذه الروبوتات تسيء التصرف عندما تصادف ذلك النص».
تسمم البيانات
وجد باحثون أنه كان من الممكن تسميم مجموعة البيانات التي تدخل في تدريب نماذج الذكاء الاصطناعي الكبيرة. مقابل 60 دولارًا فقط، تمكنوا من شراء المجالات وملؤها بالصور التي يختارونها، والتي تم تجميعها بعد ذلك في مجموعات بيانات كبيرة. كانوا أيضًا قادرين على تحرير وإضافة جمل إلى إدخالات Wikipedia التي انتهى بها الأمر في مجموعة بيانات نموذج AI.
لجعل الأمور أسوأ، كلما تكرر شيء ما في بيانات التدريب لنموذج الذكاء الاصطناعي، كلما أصبحت الرابطة أقوى. يقول ترامير إنه من خلال تسميم مجموعة البيانات بأمثلة كافية، سيكون من الممكن التأثير على سلوك النموذج ومخرجاته إلى الأبد. لم يتمكن فريقه من العثور على أي دليل على هجمات تسمم البيانات، لكن ترامير يقول إنها مسألة وقت فقط، لأن إضافة روبوتات المحادثة إلى البحث عبر الإنترنت تخلق حافزًا اقتصاديًا قويًا للمهاجمين.
لا إصلاحات
تدرك شركات التكنولوجيا هذه المشاكل. لكن لا توجد حاليًا حلول جيدة، كما يقول سايمون ويليسون، الباحث المستقل ومطور البرامج، الذي درس الحقن الفوري.
رفض المتحدثون باسم Google و OpenAI التعليق عندما تم سؤالهم عن كيفية إصلاح هذه الثغرات الأمنية.
تقول Microsoft إنها تعمل مع مطوريها لمراقبة كيفية إساءة استخدام منتجاتهم والتخفيف من هذه المخاطر. لكنه يعترف أن المشكلة حقيقية، ويتابع كيف يمكن للمهاجمين المحتملين إساءة استخدام الأدوات.
يقول رام شانكار سيفا كومار، الذي يقود جهود مايكروسوفت الأمنية في مجال الذكاء الاصطناعي: «لا يوجد حل سحري في هذه المرحلة». ولم يعلق على ما إذا كان فريقه قد وجد أي دليل على الحقن الفوري غير المباشر قبل إطلاق Bing.


انقر هنا لقراءة الخبر من مصدره.