الأخضر الأولمبي يخسر بخماسية أمام اليابان في افتتاح مشاركته بالدورة الودية بأوزبكستان    "بيت الشاورما" تعزز دعم المحتوى المحلي من خلال شراكتها مع تلفاز 11    القبض على شخص في تبوك لترويجه الحشيش والإمفيتامين    المملكة تبرز جهودها في اليوم العالمي للوقاية من الغرق    32 لاعباً يتأهلون إلى دور ال16 في بطولة العالم للبلياردو بجدة    ترمب: فرصة التوصل لاتفاق تجاري مع الاتحاد الأوروبي 50%    عرض إنجليزي من أجل ميتروفيتش    ترمب: جيروم باول ربما يخفض أسعار الفائدة    الرئيس التنفيذي لليفربول: إنفاقنا مدعوم بلقب الدوري وخطة طويلة الأمد    مركز التنمية الاجتماعية بجازان ينفذ مبادرة"خدمتنا بين يديك"في مجمع الراشد مول بجازان    الخارجية الفلسطينية ترحب بإعلان فرنسا عزمها على الاعتراف الرسمي بالدولة الفلسطينية    رئيس مجلس الأعمال السعودي السوري: نؤسس لشراكة تنموية في مرحلة إعادة إعمار سوريا    وزير الصحة: انخفاض الوفيات بنسبة 17% ثمرة السياسات الوقائية    وزارة الرياضة تعلن تخصيص أول ثلاثة أندية (الأنصار والخلود والزلفي) وفتح المجال للتخصيص في بقية الأندية الرياضية    الجهني: يدعو لتقوى الله وينهى عن التشاؤم بالأيام    الشيخ القاسم: الرسالة النبوية أعظم نعم الله ومصدر النجاة في الدنيا والآخرة    الفتح يواصل الإعداد ويكثّف التدريبات البدنية والفنية    فتح التقديم لجائزة "إثراء للفنون" بقيمة 100 ألف دولار    أتربة ورياح نشطة على عدة مناطق اليوم    القيادة تهنئ رئيس تونس بذكرى إعلان الجمهورية    "آل مداوي" يحتفلون بالدكتور "جبران" بحصوله على درجة الدكتوراه    أمير جازان يطلع على جملة المشروعات المنجزة والجاري تنفيذها بمحافظة الدائر    رئيس الوزراء الإسباني يرحّب بإعلان فرنسا أنها ستعترف بدولة فلسطين    وزير أمريكي: التجارة مع الصين في "وضع جيد"    القيادة تعزي رئيس روسيا في ضحايا حادث تحطم طائرة ركاب    جمعية الإعاقة السمعية في منطقة جازان تزور مسنًا تجاوز التسعين من عمره    أكثر من 40 ميدالية في ختام بطولة المملكة البارالمبية لرفع الأثقال للرجال والسيدات    القمامة الإعلامية وتسميم وعي الجمهور    «بيئة جازان» تنظم ورشة عمل عن طرق الاستفادة من الخدمات الإلكترونية الزراعية    حرس الحدود بجازان ينقذ مواطنَيْن من الغرق أثناء ممارسة السباحة    وفد ثقافي وفني يزور هيئة التراث في جازان لتعزيز التعاون في مجالات الهوية والتراث    المملكة تشارك في مؤتمر الأطراف باتفاقية الأراضي الرطبة "رامسار"    أمير جازان من الدائر: البن ثروة وطنية والدعم مستمر    6300 ساعة تختتم أعمال الموهوبين في أبحاث الأولويات الوطنية بجامعة الإمام عبد الرحمن    هيئة الأدب تستعد لإطلاق النسخة الرابعة من معرض المدينة المنورة للكتاب2025    أمير تبوك يطمئن على صحة الشيخ عبدالعزيز الغريض    أمير منطقة جازان ونائبه يلتقيان مشايخ وأهالي محافظة الدائر    الأمين العام لرابطة العالم الإسلامي يلتقي وزيري الخارجية والداخلية الأفغانيين في كابل    الشؤون الإسلامية في جازان تواصل تنفيذ الدورة العلمية الصيفية الثالثة    مستشفى المهد يعتمد تقنية تخدير الأعصاب لتقليل الألم    الإحصاء: ارتفاع الصادرات غير البترولية بنسبة 6.0% في مايو 2025م    تحطم طائرة الركاب الروسية المفقودة    الأمير محمد بن عبدالعزيز يستقبل قائدَي قوة جازان السابق والمعيّن حديثًا    الإحسان الطبية تنفذ مشروع «الإستشاري الزائر» في مستشفى صامطة العام    السعودية تدين مطالبة الكنيست الإسرائيلي بفرض السيطرة على الضفة والأغوار المحتل    منظمة الصحة العالمية تنفي انتهاك السيادة الأمريكية    أكثر من 7 آلاف زيارة منزلية خلال 6 أشهر بمستشفى الظهران    "الداخلية" تعلن فتح تحقيق في انتهاكات السويداء.. لا إعدامات جماعية في سوريا    الوفد السعودي بدأ زيارته لدمشق.. اتفاقيات اقتصادية لدعم التنمية في سوريا    واست رئيس بنغلاديش في ضحايا سقوط الطائرة.. القيادة تهنئ الرئيس المصري بذكرى اليوم الوطني لبلاده    المفتي يطلع على أعمال "حياة"    توجه رئاسي لحصر القوة بيد الدولة.. غضب على «حزب الله» في الداخل اللبناني    وسط تحذيرات دولية وركود في مفاوضات الهدنة.. غزة على شفا مجاعة جماعية    الصنهاج والزهراني يحتفلان بزواج ريان    بالتنسيق مع 5 وزارات تمهيداً لوضع الإجراءات.. "البلديات" تشترط عدم كشف مساكن العمالة للجيران    تعاون سعودي – سريلانكي في مجالات الإعلام    اختيار سلمان: هكذا أطلق صقره ليحلق بالوطن    مفوض إفتاء جازان يستقبل منسوبي إدارة جمعية سقيا الماء    







شكرا على الإبلاغ!
سيتم حجب هذه الصورة تلقائيا عندما يتم الإبلاغ عنها من طرف عدة أشخاص.



روبوتات الذكاء الاصطناعي تصطدم بكوارث الأمن والخصوصية
نشر في الوطن يوم 19 - 04 - 2023

تتسابق شركات التكنولوجيا لتضمين نماذج لغة الذكاء الاصطناعي في العديد من المنتجات لمساعدة الأشخاص على القيام بكل شيء بدءًا من حجز الرحلات إلى تنظيم التقويمات الخاصة بهم لتدوين الملاحظات في الاجتماعات.
لكن الطريقة التي تعمل بها هذه المنتجات - تلقي التعليمات من المستخدمين ثم البحث في الإنترنت عن إجابات - تخلق الكثير من المخاطر الجديدة. باستخدام الذكاء الاصطناعي، يمكن استخدامها في جميع أنواع المهام الخبيثة، بما في ذلك تسريب المعلومات الخاصة للأشخاص ومساعدة المجرمين في التصيد الاحتيالي والبريد العشوائي والاحتيال. يحذر الخبراء من أننا نتجه نحو «كارثة» تتعلق بالأمن والخصوصية.
بوت السناب
واجه مستخدمو «سناب شات» تحذيرات بشأن «بوت السناب» الذي أثار اهتمام مستخدمي التطبيق مؤخرا، ولاقى تفاعلا في مواقع التواصل الاجتماعي، حيث أضافت الشركة روبوت دردشة يعمل بالذكاء الاصطناعي «My AI»، ورأى العديد أنه سيضيف لهم المتعة من خلال الفضفضة والمحادثات فيما اعتبره آخرون مهددا للخصوصية.
تحميل إجباري
كشف راكان الروقي المهتم بأمن البيانات أن الروبوت كان في السابق إجباريا والآن لم يعد كذلك وبالإمكان حذفه من خلال الدخول على إعدادات الدردشة في السناب ومن ثم المسح من موجز الدردشة، والسبب في كونه لم يعد إجباريا هو تأثير الجمهور أو المستخدم أو العامة بشكل عام لأنهم هم بالأساس القوة ومن يقرر فهم من يزود الشركات بالمادة، بمعنى أنه لو لم يكن المستخدم موجودا بالتالي لا يمكن للشركات أن تستمر، لذلك رأوا أن يكون اختياريا خوفا على معلومات الأشخاص وأيضا وعيهم بالحفاظ على الخصوصية.
مخاطر عامة
أشار إلى أن تقنيات الذكاء الاصطناعي موجودة سابقا وليست بحديثة، وكانت تستخدم في التطبيقات التي نستخدمها في حياتنا اليومية، ونتعايش معها وأقرب مثال ظهور الإعلانات أو الصفحات المفضلة لنا، وهذه أمور قديمة فيما يتعلق بأنظمة الذكاء الاصطناعي، لكن دخول هذه الأنظمة والنماذج للعامة الآن بها مخاطر فعليا على الخصوصية. وفيما يتعلق بأنظمة روبورت السناب لو تم طرح أسئلة معينة عليه ستكون الإجابة بدعم أجندة خارجية وسياسات تضعها الشركات المسؤولة، بينما البيانات هذه ممكن أن يتم تسجيلها لدى الشركة ذاتها وهذه أخطر من روبورت السناب بمراحل خصوصا النماذج المتقدمة منها.
كسر الحماية
نماذج لغة الذكاء الاصطناعي التي تشغل روبوتات المحادثة مثل ChatGPT و Bard و Bing تنتج نصا يقرأ مثل شيء كتبه إنسان. إنهم يتبعون التعليمات أو «المطالبات» من المستخدم ثم يولدون جملة من خلال التنبؤ، على أساس بيانات التدريب الخاصة بهم، بالكلمة التي من المرجح أن تتبع كل كلمة سابقة. لكن الشيء الذي يجعل هذه النماذج جيدة جدًا - حقيقة أنها تستطيع اتباع التعليمات - يجعلها أيضًا عرضة لسوء الاستخدام. يمكن أن يحدث ذلك من خلال «الحقن الفوري»، حيث يستخدم شخص ما محفزات توجه نموذج اللغة لتجاهل الاتجاهات السابقة وحواجز الأمان.
المساعدة في الاحتيال والتصيد
هناك مشكلة أكبر بكثير من جيلبريك التي تنتظرنا. في أواخر مارس، أعلنت شركة OpenAI أنها تسمح للأشخاص بدمج ChatGPT في المنتجات التي تتصفح الإنترنت وتتفاعل معها. تستخدم الشركات الناشئة هذه الميزة بالفعل لتطوير مساعدين افتراضيين قادرين على اتخاذ إجراءات في العالم الحقيقي، مثل حجز الرحلات الجوية أو وضع الاجتماعات في تقاويم الأشخاص. يقول فلوريان ترامير، الأستاذ المساعد لعلوم الكمبيوتر في ETH Zürich الذي يعمل في أمن الكمبيوتر والخصوصية والتعلم الآلي: «أعتقد أن هذا سيكون كارثة إلى حد كبير من منظور الأمان والخصوصية». نظرا لأن المساعدين الافتراضيين المحسّنين بالذكاء الاصطناعي يكشطون النصوص والصور من الويب، فهم منفتحون على نوع من الهجوم يسمى الحقن الفوري غير المباشر، حيث يغير طرف ثالث موقع الويب عن طريق إضافة نص مخفي يهدف إلى تغيير سلوك الذكاء الاصطناعي. يمكن للمهاجمين استخدام وسائل التواصل الاجتماعي أو البريد الإلكتروني لتوجيه المستخدمين إلى مواقع الويب التي تحتوي على هذه المطالبات السرية. بمجرد حدوث ذلك، يمكن التلاعب بنظام الذكاء الاصطناعي للسماح للمهاجم بمحاولة استخراج معلومات بطاقة ائتمان الأشخاص، على سبيل المثال.
يمكن للجهات الخبيثة أيضًا إرسال بريد إلكتروني إلى شخص ما يحتوي على حقنة فورية مخفية فيه. إذا كان المتلقي يستخدم مساعدًا افتراضيًا للذكاء الاصطناعي، فقد يتمكن المهاجم من التلاعب به لإرسال معلومات شخصية للمهاجم من رسائل البريد الإلكتروني للضحية، أو حتى إرسال بريد إلكتروني إلى الأشخاص الموجودين في قائمة جهات اتصال الضحية نيابة عن المهاجم.
يقول أرفيند نارايانان، أستاذ علوم الكمبيوتر بجامعة برينستون: «بشكل أساسي، يمكن لأي نص على الويب، إذا تمت صياغته بالطريقة الصحيحة، أن يجعل هذه الروبوتات تسيء التصرف عندما تصادف ذلك النص».
تسمم البيانات
وجد باحثون أنه كان من الممكن تسميم مجموعة البيانات التي تدخل في تدريب نماذج الذكاء الاصطناعي الكبيرة. مقابل 60 دولارًا فقط، تمكنوا من شراء المجالات وملؤها بالصور التي يختارونها، والتي تم تجميعها بعد ذلك في مجموعات بيانات كبيرة. كانوا أيضًا قادرين على تحرير وإضافة جمل إلى إدخالات Wikipedia التي انتهى بها الأمر في مجموعة بيانات نموذج AI.
لجعل الأمور أسوأ، كلما تكرر شيء ما في بيانات التدريب لنموذج الذكاء الاصطناعي، كلما أصبحت الرابطة أقوى. يقول ترامير إنه من خلال تسميم مجموعة البيانات بأمثلة كافية، سيكون من الممكن التأثير على سلوك النموذج ومخرجاته إلى الأبد. لم يتمكن فريقه من العثور على أي دليل على هجمات تسمم البيانات، لكن ترامير يقول إنها مسألة وقت فقط، لأن إضافة روبوتات المحادثة إلى البحث عبر الإنترنت تخلق حافزًا اقتصاديًا قويًا للمهاجمين.
لا إصلاحات
تدرك شركات التكنولوجيا هذه المشاكل. لكن لا توجد حاليًا حلول جيدة، كما يقول سايمون ويليسون، الباحث المستقل ومطور البرامج، الذي درس الحقن الفوري.
رفض المتحدثون باسم Google و OpenAI التعليق عندما تم سؤالهم عن كيفية إصلاح هذه الثغرات الأمنية.
تقول Microsoft إنها تعمل مع مطوريها لمراقبة كيفية إساءة استخدام منتجاتهم والتخفيف من هذه المخاطر. لكنه يعترف أن المشكلة حقيقية، ويتابع كيف يمكن للمهاجمين المحتملين إساءة استخدام الأدوات.
يقول رام شانكار سيفا كومار، الذي يقود جهود مايكروسوفت الأمنية في مجال الذكاء الاصطناعي: «لا يوجد حل سحري في هذه المرحلة». ولم يعلق على ما إذا كان فريقه قد وجد أي دليل على الحقن الفوري غير المباشر قبل إطلاق Bing.


انقر هنا لقراءة الخبر من مصدره.