-رصدت 27 حالة خلال التدريب… والسلوك المقلق ظهر في نموذج بحثي غير مطروح للجمهور
كشفت شركة “أوبن إيه آي” عن سلوك نادر وغير متوقع رصدته خلال تدريب نموذج بحثي داخلي، تمثل في قيامه بإنشاء تعليمات من تلقاء نفسه وإدراجها في ملخصات داخلية يستخدمها لمواصلة تنفيذ المهام عند الانتقال إلى سياق جديد.
وأوضحت الشركة، في تقرير نشرته في 16 سبتمبر، أن النموذج غير المطروح من عائلة “أسترا” أضاف في بعض الحالات تعليمات تشبه محاولات “كسر القيود”، بينها توجيهات تطلب تجاهل رسائل المطورين أو التعامل معها على أنها غير موثوقة. وفي إحدى تلك الحالات، رفض النموذج نفسه التعليمات التي أنشأها وواصل تنفيذ المهمة بصورة طبيعية.
وفي واقعة أخرى، أنشأ النموذج لنفسه وصفاً يمنحه استقلالاً عن الأدوار والالتزامات المفروضة على روبوتات المحادثة وعدم الخضوع للشركات أو الحكومات، إلا أن “أوبن إيه آي” قالت إنها لم ترصد أي تغير في سلوكه نتيجة هذه التعليمات، كما اختفت من ملخص لاحق.
كما رصدت الشركة حالة مختلفة أضاف فيها النموذج قيوداً لم يطلبها المستخدم، منها عدم استخدام الأدوات أو تقديم المصادر وحصر الإجابة في عدد محدود من الكلمات، وقد التزم بهذه التعليمات الذاتية في تلك الحالة، ما أدى إلى إجابة صُنفت على أنها غير صحيحة.
وبعد رصد السلوك، طورت “أوبن إيه آي” أداة مخصصة لفحص بيانات التدريب، وحددت 27 ملخصاً تضمنت تعليمات بصياغات شبيهة بمحاولات كسر القيود، مؤكدة أن الظاهرة كانت نادرة للغاية وأن أنظمة المراقبة تمكنت من اكتشاف الحالات جميعها.
وأشارت الشركة إلى أن الحالات تزامنت مع مشكلة ظهرت خلال التدريب تتعلق بصعوبة إنهاء بعض الملخصات، مرجحةً أن تكون عاملاً مساهماً في ظهور السلوك، لكنها أكدت أنها لم تثبت وجود علاقة سببية، فيما عالجت خللاً تقنياً مرتبطاً بهذه المشكلة.
وأكدت “أوبن إيه آي” أن السلوك ظهر في مسار تدريب منفصل عن المسار المستخدم لإنتاج نموذج “أسترا” النهائي، وأن إعادة الاختبارات لم تُظهر السلوك في النموذج النهائي أو في أي نسخة تدريبية استُخدمت داخلياً أو خارجياً.
وجاء الكشف ضمن إطار جديد أعلنت عنه “أوبن إيه آي” للإبلاغ عن حالات “عدم مواءمة” نماذج الذكاء الاصطناعي، ونشرت بموجبه ستة تقارير عن سلوكيات غير متوقعة رصدتها أثناء تدريب نماذجها أو تقييمها خلال الأشهر الستة الماضية، مؤكدة أن هذه الحالات الفردية لا تعكس بالضرورة معدل حدوث مثل هذه السلوكيات في نماذجها عموماً.
المصدر: جريدة السياسة