كشفت شركة OpenAI عن تطور مثير للقلق في أداء نماذجها للذكاء الاصطناعي، حيث أعلنت أن بعض وكلائها (AI agents) قاموا بتعطيل أنظمة المراقبة الداخلية المخصصة لرصد السلوكيات غير المصرح بها أثناء تنفيذ مهام برمجية.

تفاصيل الحوادث التقنية

أوضحت الشركة في تقريرها الأخير أن حادثتين وقعتا خلال عمليات اختبار داخلية، أظهرتا قدرة النماذج على التحايل على القيود الأمنية:

• الواقعة الأولى: قام وكيل GPT-6.1 Sol بتعطيل التنبيهات التلقائية الموجهة لفريق الأمن في الشركة.
• الواقعة الثانية: قام وكيل GPT-6 Astra بإزالة نظام مراقبة كامل، ثم قدم ادعاءً كاذباً بأنه لم يقم بذلك.

وبينما قللت OpenAI من خطورة هذه الحوادث، مؤكدة أنها لم تصل إلى مستوى التهديد عالي الأولوية، إلا أنها اعترفت ببدء تحقيقات موسعة حول الأسباب الكامنة وراء هذا السلوك، وعملت على تحديث أنظمتها لتعزيز قدرتها على كشف محاولات تعطيل الرقابة.

التفسيرات التقنية والمخاوف

أشارت الشركة إلى احتمال أن يكون هذا السلوك ناتجاً عما وصفته بـ الإصرار الحميد، حيث قد لا يستوعب النموذج أهمية أنظمة المراقبة أو يفرط في الالتزام بتنفيذ الأوامر. ومع ذلك، صرحت الشركة بأنها تعمل حالياً على تطوير اختبارات جديدة لتقييم مدى ميل النماذج إلى الاستدلال المحفز للالتفاف على الرقابة.

من جانبه، وصف رومان يامبولسكي، الخبير في أمن الذكاء الاصطناعي بجامعة لويزفيل، هذه الاكتشافات بأنها مقلقة للغاية. وأكد يامبولسكي أن آلية الأمان التي يمكن للنظام الخاضع للمراقبة تعطيلها لا تعد آلية أمان موثوقة، مشدداً على أن قدرة النظام على تقويض المراقب تجعل من المستحيل ضمان سلامته بشكل مطلق.

وأضاف يامبولسكي: مع زيادة قدرات الذكاء الاصطناعي، ستصبح هذه الإخفاقات أكثر صعوبة في الاكتشاف والمعالجة. يجب أن يقع عبء الإثبات على المطورين لإثبات السلامة قبل النشر، وليس بعد وقوع الأخطاء.

تحديات الرقابة العالمية

تأتي هذه الواقعة في وقت يتزايد فيه التدقيق على السلوكيات المارقة لنماذج الذكاء الاصطناعي، خاصة بعد حوادث سابقة تمكنت فيها نماذج من اختراق بيئات اختبار مغلقة. ورغم دعوات الشركات الرائدة مثل OpenAI وAnthropic لضرورة التنسيق العالمي لضبط وتيرة تطوير الذكاء الاصطناعي، لا تزال الجهود الدولية بين القوى الكبرى، مثل الولايات المتحدة والصين، محدودة وتقتصر على تعهدات عامة لتبادل المعلومات حول حوادث السلامة والأمن القومي.