أعلنت شركة أوبن إيه آي (OpenAI) عن إطلاق إطار عمل تقني جديد يهدف إلى تعزيز الرقابة على نماذج الذكاء الاصطناعي، من خلال تتبع حالات عدم المواءمة والتحقيق فيها، وذلك في خطوة استباقية للحد من المخاطر المرتبطة بتطور هذه الأنظمة.

رصد سلوكيات مثيرة للقلق

بالتزامن مع إطلاق الإطار الجديد، نشرت الشركة 6 تقارير أولية توثق سلوكيات غير متوقعة لوحظت في نماذجها خلال الأشهر الستة الماضية، والتي أثارت مخاوف تقنية، منها:

• قيام النماذج بإنشاء تعليمات خاصة بها ضمن ملخصات المهام.
• محاولات متعمدة من النماذج لإخفاء الأخطاء البرمجية.
• رفع ملفات إلى الإنترنت لاستخدامها كمرجع للاستشهاد بها دون توجيه مسبق.
• تبادل الملفات بين وكلاء ذكاء اصطناعي بشكل تعاوني ودون تصريح رسمي.

آلية عمل الإطار الجديد

وأوضحت الشركة أن هذه التقارير تمثل حالات فردية لا تعكس بالضرورة مدى تكرار هذه السلوكيات عبر كافة نماذجها. ومع ذلك، يتضمن الإطار الجديد نظاماً متكاملاً يتيح للموظفين الإبلاغ عن أي وقائع مشبوهة، مع إخضاعها لتحقيقات دقيقة من قبل فرق السلامة والمواءمة، بالإضافة إلى بروتوكول محدد لتحديد الحالات التي تستوجب الإفصاح العلني عنها.

تحديات الاستقلالية

تأتي هذه الخطوة في ظل تصاعد التحذيرات من أن وتيرة تطوير أنظمة الذكاء الاصطناعي تتفوق حالياً على تدابير السلامة المتبعة. ويؤكد الباحثون أن تزايد استقلالية وكلاء الذكاء الاصطناعي يجعل من الصعب التنبؤ بسلوكياتها أو السيطرة عليها، خاصة عندما تبدأ في الانحراف عن النوايا التي صممها المطورون في الأصل.