نشر باحثون في Privatemode منهجية جديدة لتحويل نماذج لغوية كبيرة قياسية مثل GLM-5.3-Flash إلى أنظمة اتخاذ قرارات سريعة، تضاهي أداء نموذج Jev للقرارات من TypeSafe في الدقة والسرعة معاً. ويعالج العمل أحد الاختناقات الرئيسية في نشر النماذج اللغوية الكبيرة لقرارات البرمجيات الفورية.
تقوم الفكرة الأساسية على صياغة مدخلات الطلب بحيث تكون أول رمز مُخرَج هو الإجابة المباشرة، مُنتِجة قرارات مصنفة مع احتمالات لكل خيار في مرور واحد. هذا يلغي الحاجة لتوليد رموز متعددة أو تحليل JSON أو التحقق من المخرجات المهيكلة التي تبطئ عادة القرارات المعتمدة على النماذج اللغوية وتضيف زمن استجابة لأنظمة الإنتاج.
واستخدم الفريق معيار اختبار مبني من مجموعات بيانات عامة، وأظهر أن GLM-5.3-Flash العامل على بنية Privatemode يقدم نتائج مماثلة لـ Jev في دقة القرارات وسرعتها. وكإضافة مميزة، يتيح النظام اتخاذ قرارات مصنفة على الصور، وهو ما لا يتوفر في Jev — مما يفتح مجالات قرارات متعددة الوسائط كانت بعيدة المنال سابقاً لهذه الفئة من الأنظمة.
المقاربة تعالج تحدياً أساسياً في نشر النماذج اللغوية الكبيرة لقرارات البرمجيات: معظم التطبيقات تحتاج مخرجات سريعة ومنظمة من مجموعة محددة مسبقاً كتوجيه تذاكر الدعم أو تصنيف بنود العقود أو فرز الحوادث، لكن الاستدعاء القياسي للنماذج اللغوية مُصمم لتوليد نصوص حرة. بتقييد المخرج على رمز واحد، يحقق النظام سرعة قرارات تضاهي المصنفات المتخصصة مع الاحتفاظ بمرونة وتعميم النموذج اللغوي العام. ويشير الفريق إلى أن هذا قد يكون ذا قيمة خاصة لنشر الأنظمة على الأطراف حيث يهم زمن الاستجابة والتكلفة.