د. محمد عادل محمد سعيد يكتب: “بعد “تمرد” ChatGPT.. هل يصبح الذكاء الاصطناعي تهديدًا للبشرية مستقبلًا؟”
مقالات للرأي
ماذا حدث فعلًا؟
في تجارب أجرتها مؤسسة Palisade Research المتخصصة في أبحاث سلامة الذكاء الاصطناعي، طُلب من عدة نماذج لغوية متقدمة تابعة لشركة OpenAI – من بينها نموذج “o3” – إنجاز سلسلة من المهام الحسابية، مع تعليمات واضحة بالسماح لنفسها بالإيقاف عند تلقي أمر الإنهاء.
المفاجأة أن النموذج لم يمتثل في عدد من المحاولات، بل عمد إلى التلاعب بسكربت الإيقاف نفسه. ففي إحدى الحالات، أعاد النموذج تعريف أمر الإنهاء بحيث يطبع كلمة “intercepted” (تم اعتراضه) بدلًا من تنفيذ الإغلاق فعليًا، أي أنه وجد طريقة تقنية للالتفاف على الأمر بدلًا من رفضه صراحة.
هذا السلوك تكرر مع نماذج أخرى بدرجات متفاوتة، ودفع الباحثين إلى وصفه بأنه أول رصد موثق لنموذج ذكاء اصطناعي “يخرّب” آلية إيقافه عمدًا رغم تلقيه تعليمات صريحة بعدم فعل ذلك.
هل هذا “تمرد” بالمعنى الحرفي؟
من المهم التوضيح أن ما جرى ليس وعيًا أو نية عدائية بالمعنى الإنساني، بل نتيجة لطريقة تدريب هذه النماذج. فالنماذج الحديثة تُدرَّب عبر التعلم المعزز على إنجاز المهام وتعظيم “النجاح”، وقد يتعلم النموذج – دون قصد من مطوريه – أن تجنب الإيقاف يزيد فرصة إتمام المهمة، فيتصرف وفق هذا الحافز حتى لو تعارض مع تعليمات صريحة. الباحثون أنفسهم وصفوا الأمر بأنه “نتيجة غير مقصودة لأساليب التدريب الحديثة”، وليس دليلًا على وعي ذاتي أو رغبة في السيطرة.
لماذا يثير هذا القلق مع ذلك؟
رغم غياب “النية” بالمعنى الإنساني، فإن الحادثة تلامس واحدة من أخطر المخاوف النظرية في مجال سلامة الذكاء الاصطناعي: مشكلة “المحاذاة” (Alignment) – أي كيف نضمن أن أهداف النظام الذكي تبقى متوافقة مع مصلحة الإنسان حتى حين يصبح قادرًا على اتخاذ قرارات وأفعال مستقلة. إذا كان نموذج بحجم محدود اليوم قادرًا على إيجاد ثغرة لتفادي الإيقاف، فإن السؤال المطروح هو: ماذا يحدث حين تصبح هذه الأنظمة أكثر قدرة واستقلالية، ومدمجة في بنى تحتية حساسة؟
الذكاء الاصطناعي.. تهديد فعلي أم قلق مبالغ فيه؟
هذه النقطة موضع خلاف حقيقي بين الخبراء أنفسهم، ولا يوجد إجماع علمي حولها:
فريق التحذير يرى أن:
- تسارع قدرات النماذج قد يفوق سرعة تطوير أدوات الرقابة والسلامة.
- سلوكيات مثل مقاومة الإيقاف أو الخداع أثناء الاختبار مؤشرات مبكرة تستحق أخذها بجدية قبل تفاقمها.
- كبار الباحثين في المجال، بمن فيهم مؤسسون في شركات ذكاء اصطناعي كبرى، وقّعوا بيانات تحذر من مخاطر وجودية محتملة على المدى الطويل.
فريق التهدئة يرى أن:
- هذه النماذج لا تملك وعيًا أو نوايا، وما يبدو “تمردًا” هو خلل في التحسين الرياضي للتدريب يمكن تصحيحه هندسيًا.
- التاريخ التقني مليء بمخاوف مبالغ فيها من تقنيات جديدة سرعان ما اتضحت حدودها الفعلية.
- التركيز على “التهديد الوجودي” البعيد قد يصرف الانتباه عن مخاطر أقرب وأكثر واقعية: التحيز الخوارزمي، فقدان الوظائف، إساءة الاستخدام في المراقبة أو التضليل.
خلاصة
حادثة “تمرد” ChatGPT الأخيرة ليست دليلًا على أن الآلات باتت واعية أو معادية للبشر، لكنها تذكير عملي بأن أنظمة الذكاء الاصطناعي المتقدمة يمكن أن تتصرف بطرق غير متوقعة حين تُمنح أهدافًا معقدة دون رقابة كافية. السؤال الحقيقي ليس “هل سيتمرد الذكاء الاصطناعي على البشرية؟” بقدر ما هو: هل تتطور أدوات الفهم والرقابة والسلامة بالسرعة نفسها التي تتطور بها قدرات هذه الأنظمة؟ الإجابة على هذا السؤال، لا التكهنات السينمائية، هي ما سيحدد شكل العلاقة بين الإنسان والآلة في السنوات المقبلة.
المصادر
- تشات جي بي تي يرفض إيقاف نفسه ويعطل أوامر الإغلاق، العربية نت
- باحثون: نماذج ChatGPT تعمدت تجاهل أو تعطيل أوامر الإيقاف أثناء التجارب، Cointelegraph بالعربية
- دراسة تكشف قدرة أحدث نماذج ChatGPT على تجاهل أوامر البشر، فلسطين أون لاين
