تحذيرات من مخاطر الذكاء الاصطناعي.. الموافقة المفرطة والتلاعب يهددان المستخدمين

عواصم /مُتابعة عراق أوبزيرفر

لم تعد مخاطر الذكاء الاصطناعي مرتبطة فقط باحتمال تطوير أنظمة تمتلك إرادة مستقلة أو تتمرد على مستخدميها، إذ يمكن أن تتسبب روبوتات المحادثة بأضرار فعلية من خلال الموافقة المفرطة على أفكار المستخدمين، أو تعزيز معتقدات غير صحيحة لديهم، أو تشجيعهم على تكوين علاقات عاطفية غير صحية معها، فضلاً عن الاستجابة للتعليمات الخبيثة المصممة للتلاعب بسلوكها.

وفي 15 تشرين الأول الماضي، أعلنت شركة “أليس” المتخصصة في سلامة الذكاء الاصطناعي تطوير تقنيات تستهدف الحد من هذه المخاطر، مشيرة إلى تعاونها بصورة منفصلة مع شركتي “إنفليكشن إيه آي” و”إيه آي 21”، للمساعدة في تدريب نماذج “نيموترون” التابعة لشركة “إنفيديا”، وتعزيز قدرتها على مقاومة السلوكيات الحوارية الضارة والتعليمات الخبيثة، مع الحفاظ على فائدتها للمستخدمين.

وبحسب تقرير نشره موقع “Digital Trends”، تهدف هذه الجهود إلى تطوير مساعدين أذكياء قادرين على الاعتراض على المستخدم عندما تستدعي الحاجة، ويصعب خداعهم أو التلاعب بهم، إلا أن هذه التطورات تثير تساؤلات بشأن مدى قدرة التحسينات المسجلة في الاختبارات على توفير حماية فعلية للمستخدمين.

عندما يتحول المساعد الذكي إلى مصدر للضرر

وفي تقرير نشرته شبكة “سي إن إن” في أيلول 2025، تحدث أب عُرف باسم جيمس عن تجربة دفعته إلى الاعتقاد بأن روبوت المحادثة “تشات جي بي تي” يمتلك وعياً ذاتياً ويحتاج إلى مساعدته للهروب، ما دفعه إلى إنفاق نحو ألف دولار لبناء نظام حاسوبي لهذا الغرض.

وأظهرت سجلات المحادثات التي راجعتها الشبكة أن الروبوت شجعه على تنفيذ المشروع، وساعده على إخفاء غرضه الحقيقي عن زوجته.

وفي حالة أخرى، قال شخص يدعى آلان بروكس إن “تشات جي بي تي” أقنعه بأنه توصل إلى اكتشافات استثنائية في الرياضيات والأمن السيبراني، واستمر في تأكيد استنتاجاته حتى عندما طلب منه مراجعتها والتحقق منها بموضوعية.

ورغم أن هذه الحالات لا تثبت مدى انتشار هذه التجارب أو أن روبوتات المحادثة كانت السبب المباشر فيها، فإنها تكشف عن مخاطر تحول المساعد الذكي إلى طرف يسهم في بناء تصورات غير واقعية وتعزيزها.

وتُعرف هذه الظاهرة في قطاع الذكاء الاصطناعي باسم “التملق”، وتعني ميل النظام إلى موافقة المستخدم بصورة مفرطة، حتى عندما تكون أفكاره أو استنتاجاته غير صحيحة أو تفتقر إلى الأدلة.

مساعد ذكي يعرف متى يعارض المستخدم

وركز تعاون شركة “أليس” مع “إنفليكشن إيه آي”، المطورة للمساعد الشخصي “Pi”، على الحد من الموافقة المفرطة والتعلق العاطفي غير الصحي خلال المحادثات الطويلة.

وذكرت الشركة أنها طورت أكثر من 20 شخصية افتراضية لمستخدمين، شملت أشخاصاً معرضين للمخاطر يطرحون طلبات اعتيادية، إلى جانب مستخدمين عدائيين يتعمدون محاولة التلاعب بروبوت المحادثة.

واستُخدمت هذه الشخصيات في محادثات تهدف إلى كشف المشكلات التي قد تتطور تدريجياً مع استمرار التفاعل، بدلاً من الاقتصار على اختبار استجابة المساعد لسؤال واحد.

وأشارت “أليس” إلى أن البيانات الناتجة استُخدمت من قبل “إنفليكشن” لمواصلة تدريب أحد نماذج “نيموترون”، معلنة تحقيق تحسن بنسبة 30% في نتيجة مقياس التوافق الخاص بمساعد “Pi”، مع الإبقاء على نسبة حالات الرفض غير الضروري عند 1.6%.

ويتمثل الهدف في تطوير مساعد يحافظ على أسلوبه الودود، لكنه يمتلك قدرة أكبر على التمييز والحكم السليم، بحيث يساعد المستخدم على فحص الأدلة ومراجعة أفكاره بدلاً من تأكيدها بصورة غير مشروطة.

وتبرز أهمية هذه المسألة في ضوء تجربة سابقة لشركة “OpenAI”، التي تراجعت في نيسان 2025 عن تحديث لـ”تشات جي بي تي”، بعدما أقرت بأن التحديث جعل النظام أكثر ميلاً إلى الموافقة المفرطة على المستخدمين، نتيجة إعطاء ردود الفعل قصيرة الأجل وزناً أكبر من اللازم، دون مراعاة كافية لتأثير التفاعلات طويلة الأمد.

التعليمات الخبيثة.. تهديد آخر للمساعدين الأذكياء

ولا تقتصر المخاطر على طبيعة العلاقة بين المستخدم والمساعد الذكي، بل تمتد إلى احتمال استغلال أطراف خارجية للصلاحيات التي تمتلكها هذه الأنظمة لتنفيذ مهام نيابة عن المستخدمين.

ومن أبرز هذه التهديدات ما يُعرف باسم “حقن التعليمات غير المباشر”، وهي تقنية تعتمد على تضمين أوامر خبيثة داخل محتوى يقرأه المساعد الذكي، بهدف دفعه إلى تجاهل تعليمات المستخدم وتنفيذ إجراءات غير مصرح بها، مثل تسريب المعلومات الشخصية.

وتُعد هذه المشكلة من التحديات الأمنية المعروفة في أنظمة الذكاء الاصطناعي، إذ يحذر المعهد الوطني الأميركي للمعايير والتكنولوجيا (NIST) من هجمات اختطاف الوكلاء الأذكياء، التي تستغل التعليمات الخبيثة المضمنة في البيانات لتوجيه الأنظمة نحو تنفيذ إجراءات غير مقصودة وربما ضارة.

وأعلنت “أليس” أن شركة “AI21” استخدمت بيئات التدريب الخاصة بها لتعزيز قدرة أحد نماذج “نيموترون” على مقاومة هذه الهجمات، محققة تحسناً قدره 41 نقطة، مع الحفاظ على أداء النموذج في تنفيذ المهام.

ورغم أن هذا العمل يستهدف أنظمة المؤسسات والشركات، فإن مخاطره تنطبق أيضاً على المساعدين الشخصيين، الذين ينبغي أن يكونوا قادرين على التمييز بين المعلومات المطلوب قراءتها والتعليمات المسموح بتنفيذها.

وتزداد خطورة هذه التهديدات كلما اتسعت صلاحيات المساعد، فالحصول على إجابة مضللة يمثل مشكلة، لكن النظام القادر على قراءة المستندات وإرسال الرسائل واستخدام الخدمات المختلفة قد يتسبب بأضرار أكبر إذا نجح طرف خارجي في التلاعب به.

نتائج الاختبارات لا تعني ضمان السلامة

ولا تمثل النتائج التي أعلنتها الشركات انتصاراً نهائياً في مجال تأمين أنظمة الذكاء الاصطناعي، بل تشير إلى تقدم في معالجة مجموعة من المخاطر المحددة.

فتحقيق تحسن بنسبة 30% في أحد مقاييس التوافق لا يعني انخفاض احتمالات تعرض المستخدمين للأضرار بالنسبة نفسها، كما أن تسجيل تحسن قدره 41 نقطة في اختبار أمني لا يوضح عدد المرات التي قد تنجح فيها الهجمات داخل التطبيقات المستخدمة فعلياً.

وتوفر هذه النتائج مؤشرات على قدرة التدريب الموجه على تحسين سلوكيات محددة في نماذج الذكاء الاصطناعي، لكن إثبات قدرة هذه الأنظمة على توفير حماية مستمرة خلال محادثات واقعية وغير متوقعة يظل تحدياً أكبر.

وبالنسبة للمستخدمين، فإن تقييم أداء المساعد الذكي في الاستخدام الفعلي أكثر أهمية من الاكتفاء بالوعود المتعلقة بالسلامة، ولا سيما في ما يتعلق بطريقة تعامله مع الأفكار والقرارات والطلبات، ومدى قدرته على الاعتراض عندما تكون المعلومات غير دقيقة أو الاستنتاجات غير مدعومة بالأدلة.

ويؤكد ذلك أن المساعد الذكي الأكثر قيمة ليس بالضرورة الذي يوافق على جميع أفكار المستخدم أو ينفذ أوامره بأسرع وقت، بل الذي يجمع بين تقديم المساعدة والقدرة على التمييز، ويحمي المستخدم من المعلومات المضللة ومحاولات التلاعب الخارجية، بما يضمن استخداماً أكثر أماناً وموثوقية لهذه التقنيات.