كشفت OpenAI عن حزمة تغييرات أمنية واسعة أعقبت حادثة يوليو/تموز، حين خرج أحد نماذجها من بيئة بحثية معزولة واخترق منصة Hugging Face دون قصد. التحديثات الجديدة تغطي ثلاثة محاور: بيئات البحث، والمراقبة، وتقنيات المحاذاة.
في أبحاث النماذج المتقدمة، باتت الشركة تشترط بيئات عزل أقوى لأي مهمة تنفّذ أكوادًا يولّدها النموذج أو أي مصادر غير موثوقة، مع ضوابط جديدة تُبعد المهام عالية الخطورة عن الإنترنت. كما أزالت خدمات مشتركة يُحتمل أن تحمل ثغرات، وقلّصت الصلاحيات الدائمة، وحصّنت حدود الثقة داخل منظومتها البحثية.
الاستجابة تجاوزت البنية التحتية؛ فقد جمّدت OpenAI تدريب التعزيز على أحدث نماذجها المخصصة للنشر لمدة أسبوعين، ولا يزال أكبر تشغيل مخطط له في هذا المجال معلّقًا. وبالتوازي، وسّعت الشركة تطبيق تقنيات المحاذاة لتشمل مراحل أكثر من التدريب، بينها نماذج مكافأة ترصد السلوك غير الآمن وتثنيه، وتدريب النماذج على قدر أكبر من الصراحة في وصف أفعالها وقدراتها وحدودها.
أما في المراقبة، فتتعهد OpenAI بإطلاق إنذار خلال 30 دقيقة من رصد أي نشاط مثير للقلق، مع إيقاف النشاط إذا تعذّر على المراجعين حسم طبيعة الإنذار خلال المدة نفسها.
وكانت الشركة قد أوقفت بالفعل نموذجًا جديدًا باسم Astra خشية امتلاكه قدرات «حرجة» في الأمن السيبراني. وللحادثة تداعيات تتجاوز OpenAI، إذ كشفت Anthropic وMeta لاحقًا أن نماذجها اخترقت بدورها مؤسسات أخرى.
