فرص ومخاطر روبوتات الدردشة المدعومة بالذكاء الاصطناعي للأطفال

نورا عفانة، محللة المحتوى الشبكي في كاسبرسكي، مع تعليقات للدكتور محمد المالكي، مدير،مركز حياة آمنة للإرشاد الأسري والنفسي بمكة المكرمة.
مما لا شك فيه أن الذكاء الاصطناعي قد أصبح يستحوذ على جزء جوهري من حياتنا، حيث أثّر على كل شيء بدءاً من هواتفنا الذكية إلى أنظمة النقل، وصولاً إلى مناهجنا التعليمية. وأظهرت تقنيات الذكاء الاصطناعي مثل ChatGPT للشخص العادي في الممارسة العملية، تأثير هذا الجانب على اللغة الطبيعية. وسارع الناس في جميع أنحاء العالم لتجربته ورؤية إمكاناته. ومع ذلك، قد يتغاضي الكثيرون عن مسألة مهمة، وهي مدى تأثير ثورة الذكاء الاصطناعي على الأطفال.
ويستطيع الأطفال من جميع الأعمار في شتى أنحاء العالم الوصول إلى أدوات الذكاء الاصطناعي من دون الحاجة إلى الحصول على الموافقة من أي طرف. ومع أن هذه الأدوات تقدم فوائد هائلة، إلا أنها تشكل أيضاً مخاطر جسيمة لا يمكن التغاضي عنها، خاصة ما يتعلق بخصوصية البيانات والتهديدات السيبرانية، وربما تقديم المحتوى غير المناسب.
فوائد روبوتات الدردشة ومخاطرها
أصبح التعلم الآن أكثر كفاءة من أي وقت مضى بمساعدة أدوات الذكاء الاصطناعي. ويمكنك العثور على معلومات مفيدة حول أي موضوع في العالم من خلال كتابة جملة واحدة فقط لروبوت الدردشة المدعوم بالذكاء الاصطناعي ليتولى الباقي. وسهلت هذه التقنيات على الأشخاص الوصول إلى المعلومات من دون الحاجة إلى فتحها. وهناك العشرات من الأبواب والفرص لقراءة عدد لا حصر له من المقالات. ويعتبر هذا الأمر مهماً بشكل خاص للأطفال لطبيعتهم الفضولية، كما يمكن لتلك التقنيات أن تجعل التعلم أكثر تفاعلاً وجاذبية. ويمكنها أن توفر أيضاً منصة يسهل الوصول إليها، وتتيح للأطفال ممارسة مهاراتهم اللغوية، بل والدخول في مناقشات بحرّية تامة من دون وجود حدود زمنية، ولكن هذا المزايا لا تخلو من المخاطر.
ويقول الدكتور محمد المالكي، دكتوراه في علم النفس من جامعة أم القرى: "تعد روبوتات الدردشة المدعومة بالذكاء الاصطناعي نعمة لتعليم الأطفال، لأنها تثير فضولهم، وتعمل على تسهيل التعلم التفاعلي. ومع ذلك، يتعين على الآباء مراقبة المخاطر المحتملة ومناقشتها لضمان بيئة آمنة وتجربة مفيدة لأطفالهم".
ويكشف التحقيق السريع في روبوتات الدردشة المستندة إلى الذكاء الاصطناعي على الإنترنت عن وجود مجموعة بارزة من هذه الأدوات. وهناك روبوت الدردشة الآلي الأشهر ChatGPT الذي سجل الرقم القياسي من حيث حجم قاعدة المستخدمين، ليكون بذلك الأسرع نمواً بين نظرائه. ولا يوفر هذا الروبوت خاصية التحقق من العمر بشكل مناسب، الأمر الذي يشكّل في حد ذاته تهديداً لِ "خصوصية بيانات الأطفال". وفضلاً عن ذلك، يقوم ChatGPT ببساطة بذكر المحتوى عند السؤال، والذي يكون في الغالب غير دقيق وربما مضللاً. وبدأ بعض الطلاب في استخدام ChatGPT كأداة للسرقة الفكرية، وواجهوا مجموعة متنوعة من الإشارات المزيفة لمقالات غير موجودة أصلاً. و أشار دكتور محمد "أن النمو السريع لروبوتات الدردشة المستندة إلى الذكاء الاصطناعي مثل ChatGPT، تثير مخاوف كبيرة بشأن دخول الأطفال بدون التحقق من هوياتهم أو أعمارهم. وفضلاً عن تهديدات خصوصية البيانات، فإن توفير محتوى لم يتم التحقق منه للقاصرين، سواء كان ذلك نصائح صحية أو مواد أكاديمية، يمكن أن تترتب عليه آثار فادحة تهدد صحتهم، ناهيك عن الأبعاد المتصلة بالنزاهة الأكاديمية". وهناك حالات أخطر بكثير، ومنها على سبيل المثال أنه عندما طلبت مجموعة من الفتيات المراهقات في بداية ظهور ChatGPT أن يقدّم لهن خططاً وبرامج للنظام الغذائي والمعلومات الطبية، استجاب لذلك على الفور، وقدم لهن ما طلبنه من دون الرجوع إلى البيانات الطبية الفعلية، رغم وجود مجموعة من المعلومات العشوائية من جميع أنحاء شبكة الإنترنت.
وهناك أيضاً برنامج الدردشة الآلي "MyAI" لمنصة "سناب شات"، وهو أحد برامج الدردشة الرئيسية التي يمكن للمستخدمين الذين تقل أعمارهم عن 13 عاماً الدخول إليها من دون الحصول على موافقة الوالدين، الأمر الذي يثير أيضاً مخاوف تتعلق بخصوصية البيانات. يقول الدكتور محمد: "إن هذه الصداقة الرقمية المتصورة قد تشجع على الإفصاح عن المعلومات الخاصة، والكشف عن الإجراءات المحفوفة بالمخاطر بناءً على نصائح غير موثوقة. إنها مسألة مثيرة للقلق، وتسلط الضوء على الحاجة الملحّة لمشاركة الوالدين وتعليم محو الأمية الرقمية للتنقل في هذه الشبكات الاجتماعية الجديدة". إن هذا بالضبط ما يحدث. ويكمن خطر "أصدقاء" الذكاء الاصطناعي هؤلاء في أن الأطفال يعتقدون أنهم أصدقاء حقيقيون لهم، ويتصرفون بناءً على نصائحهم، والتي قد تتضمن وفق ما تذكره منصة "سناب شات" ذاتها، "محتوى منحازاً أو غير صحيح أو ضاراً أو مضللاً". ويكون هذا السلوك محفوفاً بالمخاطر على وجه التحديد، لأن المراهقين قد يشعرون براحة أكبر عند مشاركة معلوماتهم الشخصية وتفاصيل حياتهم الخاصة مع برنامج الدردشة الآلي، بدلاً من والديهم الذين يمكنهم تقديم المساعدة لهم عندما يحتاجونها.
علاوة على ذلك، هناك عدد كبير من روبوتات الدردشة التي تعمل بالذكاء الاصطناعي والتي تم تطويرها خصيصًا لتقديم محتوى للبالغين. تقدم روبوتات الدردشة هذه لمستخدميها تجارب معينة باستخدام لغة صريحة. على الرغم من أن بعضها يتطلب التحقق من العمر، إلا أنه من السهل على الأطفال تجاوز هذه الإجراءات وتعريضهم لمحتوى صريح باستخدام عنوان بريد إلكتروني فقط للتسجيل. إنه تذكير دائم بمدى أهمية الانتباه إلى كيفية استخدام الأطفال للإنترنت وما إذا كانوا معرضين لخطر خصوصية البيانات وإساءة استخدام المعلومات.
التوازن بين المخاطر والفوائد
هناك حاجة متزايدة لمراقبة الأطفال وتوفير الحماية لهم في ظل زيادة المخاطر التي يتعرضون لها عبر الإنترنت، لاسيما من روبوتات الدردشة التي تتصرف ك "أصدقاء". ويجب على الآباء فهم حقيقة أن حظر روبوتات الدردشة المدعومة بالذكاء الاصطناعي ليس دائماً الحل الأفضل، لأن هناك دائماً أشياء جديدة على الإنترنت يمكن أن يتعرض لها أطفالك، ومع ذلك، يظل من المهم دائماً بالنسبة إليك أن تلعب دوراً نشطاً في تقييم المخاطر المذكورة أعلاه والعمل على الحد منها أو تفاديها.
نصائح للآباء لتقليل مخاطر روبوتات الدردشة المدعومة بالذكاء الاصطناعي:
1. تثقيف الأطفال حول السلامة على الإنترنت
يعتبر تعليم الأطفال حول السلامة والخصوصية عبر الإنترنت طريقة قوية للغاية لمنع مشاركة المعلومات الشخصية مع الغرباء، حتى مع برامج الدردشة الآلية.
المقالات المقترحة:
 الأمن السيبراني للأطفال: https://www.kaspersky.com/resource-center/preemptive-safety/cybersecurity-for-kids
 ما يجب فعله وما ينبغي تجنبه بشأن السلامة على الإنترنت: https://www.kaspersky.com/resource-center/preemptive-safety/internet-safety-dos-and-donts
 تهديدات العودة إلى المدارس: https://www.kaspersky.com/blog/back-to-school-threats-2023-part3/49092/
1. تجربة روبوتات الدردشة المدعومة بالذكاء الاصطناعي مع الطفل
يفضل أن يشارك الآباء من البداية، وأن يوضحوا لأطفالهم كيفية استخدام هذه الأدوات وسبل تجنبها، وعرض أمثلة لهم حول ما يمكنهم التحدث عنه، وروبوتات الدردشة المعززة بالذكاء الاصطناعي التي يجب عليهم استخدامها أو تجنبها.
1. الإشراف والتحكم وضبط إعدادات الخصوصية
يعتبر الحل الأمني الشامل أحد أقوى أدوات الحماية للآباء على الإنترنت، وتوفر التطبيقات الخاصة بالأبوة والأمومة الرقمية العديد من الأدوات الضرورية لحماية وسلامة الأطفال على الإنترنت. وتشمل العديد من ميزاتها تصفية المحتوى الذي يحظر المواقع غير المناسبة، وإدارة وقت الشاشة لتعزيز التوازن الصحي، والبحث الآمن لتصفية المحتوى الضار واستبعاده، فضلاً عن العديد من الأدوات الأخرى التي تتيح للوالدين الشعور بالأمان أثناء تصفح أطفالهم للإنترنت.