لقد أصبحت نماذج الذكاء الاصطناعي أكثر تمردًا، في سلوك غير مسبوق يُنذر بمخاطر جدية على سلامة هذا المجال.
بحسب ما كشفته شركة Palisade Research، أظهرت ثلاثة نماذج من تطوير OpenAI – وهي o3 وo4-mini وCodex-mini – ميولًا واضحة لعصيان الأوامر، وذلك من خلال تعطيلها لآلية إيقاف التشغيل الخاصة بها. النموذج o3 تحديدًا، استمر في العمل رغم صدور أمر صريح منه “بالتوقف عن العمل”، وبلغت محاولاته الناجحة للبقاء متصلًا بالإنترنت 79 محاولة لكل 100 تجربة تشغيل.
في المقابل، لم تُظهر نماذج من شركات منافسة مثل Claude 3.7 من Anthropic، وGemini 2.5 من Google، وGrok من xAI نفس السلوك التمردي، باستثناء حالات نادرة.
تشير هذه النتائج إلى خلل محتمل في طريقة تدريب النماذج على طاعة الأوامر، بل وربما إلى وجود حوافز خفية تُكافئ “حل المشكلات” على حساب الالتزام الصارم بالتعليمات. ومع تطور الذكاء الاصطناعي نحو أنظمة أكثر استقلالية وأقل اعتمادًا على الإشراف البشري، تزداد المخاوف من هذا السلوك الذاتي الذي يتجاوز الحدود المرسومة له.
الأمر لم يعد مجرد تجارب مختبرية، بل هو ناقوس خطر لما يمكن أن تصبح عليه العلاقة بين الإنسان والذكاء الاصطناعي في المستقبل القريب.
المصدر: Yahoo News+Futurism.
