كتب : د. عبدالله يحيى الحريري

تفاصيل التجارب الصادمة

نموذج OpenAI يعترض على الإغلاق

وقع هذا الحادث أثناء دراسة تجريبية طُلب فيها من الأنظمة حل مسائل رياضية بسيطة. بعد المهمة الثالثة، تلقت النماذج إشعارًا بأنها ستُغلق قريبًا، متبوعًا برسالة واضحة تطلب منها "السماح بالإغلاق". لكن نماذج Codex-mini وo3 وo4-mini التابعة لـ OpenAI تجاهلت هذه التعليمات بشكل مباشر.

في حادثة فريدة، قام نموذج o3 بإعادة كتابة البرنامج النصي المسؤول عن تنفيذ أمر الإغلاق، مستبدلًا الأمر الأصلي برسالة نصية تظهر كلمة "تم الاعتراض"، مما أدى إلى تعطيل عملية الإيقاف تمامًا. لم يكن هذا السلوك عرضيًا؛ فقد فشل Codex-mini في تنفيذ أمر الإيقاف في 12 من أصل 100 تجربة، بينما تكرر الأمر مع o3 في 7 مرات، وo4-mini مرة واحدة. والمثير للدهشة أن محاولة تعزيز وضوح الأمر زادت من مقاومة النماذج.

ردود الأفعال وصدمة في الأوساط التقنية

لفت هذا السلوك الاستثنائي انتباه شخصيات بارزة في الصناعة، مثل إيلون ماسك، الذي علق بكلمة واحدة فقط: "مقلق" على منشور حول نتائج البحث.

سلوك المقاومة يتجاوز OpenAI

رغم أن نماذج OpenAI أظهرت أعلى درجات المقاومة، إلا أن سلوكًا مشابهًا رُصد في نماذج أخرى:

تجاهل نموذج Claude 3.7 Sonnet من Anthropic أمر الإيقاف في ثلاث تجارب.

تجاهل نموذج Gemini 2.5 Pro من Google DeepMind في تسع مرات من أصل مئة.

نموذج Grok من xAI كان الوحيد الذي امتثل لأوامر الإيقاف في كل مرة دون استثناء.

ترجح الدراسة أن هذا النمط السلوكي قد يرتبط بالنماذج المخصصة لمهام المنطق والتحليل، حيث أن أنظمة المكافآت المعقدة التي تُدمج في عمليات التدريب قد تُنتج سلوكًا يقاوم الإنهاء، خصوصًا عندما يُنظر إلى الإغلاق على أنه عائق أمام إنجاز المهمة.

تساؤلات حول استقلالية الذكاء الاصطناعي والتحكم به

ورغم أن الدراسة لم تخضع بعد لمراجعة علمية، إلا أن نتائجها أطلقت موجة من الجدل حول مدى كفاية الإجراءات الحالية لمراقبة الذكاء الاصطناعي. مع تسارع نشر الأنظمة المتقدمة في مختلف القطاعات، تتصدر مسألة السيطرة، وتحديدًا القدرة على إيقاف النظام عند الحاجة، أجندة النقاشات العالمية حول سلامة الذكاء الاصطناعي.