أعلنت شركة OpenAI عن إجراءات احترازية صارمة، تضمنت إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تقدمًا لديها مؤقتًا، وذلك في أعقاب اختبارات داخلية كشفت عن قدرات سيبرانية مقلقة في النماذج التي لا تزال قيد التطوير.

إيقاف عمليات التدريب وتعديل استراتيجيات السلامة

شملت الخطوة الاستثنائية إيقاف عمليات التدريب التي تعتمد على التعلم المعزز (RL) لمدة أسبوعين، في حين استمرت عمليات تدريبية أصغر واختبارات تقييمية لتعزيز إجراءات السلامة. وقد قررت الشركة الإبقاء على أكبر عملية تدريب متقدمة مخطط لها قيد التعليق، بينما استأنفت العمل جزئيًا على نموذجها المرتقب Astra بعد تطبيق ضوابط أمنية جديدة، مع بقاء نسبة كبيرة من هذه العمليات متوقفة إلى حين نقلها إلى بيئات حوسبية أكثر أمانًا.

قدرات سيبرانية ترفع مستوى المخاطر

دفعت هذه النتائج OpenAI إلى توسيع نطاق إطار الاستعداد للمخاطر (Preparedness Framework) ليشمل المخاطر التي قد تظهر أثناء عملية التدريب نفسها، وليس فقط تلك المرتبطة بمرحلة ما بعد الإطلاق. وتأتي هذه الخطوة متزامنة مع إطلاق نموذج GPT-5.6 Cyber وتوسيع برنامج Daybreak للدفاع السيبراني، الذي يهدف إلى تمكين المطورين من اكتشاف الثغرات، ومراجعة الشيفرات البرمجية، وتحليل البرمجيات الخبيثة، والاستجابة الفورية للحوادث الأمنية.

عزل الأنظمة وتطوير أنظمة المراقبة

كشفت الشركة عن حزمة إجراءات لحماية بنيتها التحتية البحثية، تتضمن:

• تعزيز العزل الأمني للمهام التي تنفذ أكواداً مولدة بواسطة الذكاء الاصطناعي.
• زيادة عزل الشبكات للعمليات عالية المخاطر.
• تقليص الصلاحيات الدائمة وإزالة الخدمات المشتركة التي قد تشكل نقاط ضعف.
• توسيع نظام مراقبة النماذج الذي يستخدم مصنفات تفحص نشاط النموذج عند كل رمز (Token) لرصد السلوك المشبوه.

وأوضحت OpenAI أن نظام المراقبة الجديد يركز على اكتشاف محاولات الوصول غير المصرح به، وسرقة البيانات، والإجراءات التخريبية، مشيرة إلى أن هذا المستوى من الأمان يستهلك نحو 20% من القدرة الحوسبية المخصصة للاستدلال. كما أكدت الشركة أن هذه الإجراءات تأتي استجابةً لنتائج الاختبارات الداخلية التي أظهرت اقتراب نموذج Astra من مستوى القدرة السيبرانية الحرجة وفق معاييرها الخاصة.