تؤكد ورقة بحثية جديدة من فريق يضم Andrew Lo من MIT أن جعل نماذج اللغة الكبيرة أكثر قدرة قد يجعل الأنظمة المُنتشرة فيها أكثر خطورة لا أكثر أماناً. يتمحور هذا الاكتشاف غير البديهي حول ظاهرة يسميها الباحثون مخاطر الإجراءات المترابطة: فعندما تشترك النماذج في بيانات تدريب وهندسات مماثلة، تميل إلى التصرف بشكل متشابه، وهذا التشابه يخلق مخاطر منهجية.
وتركز الورقة على الأسواق المالية كحالة اختبار. فمن خلال محاكاة قائمة على الوكلاء، يُظهر الباحثون أنه عند نشر عدة وكلاء ذكاء اصطناعي في أنظمة تداول، تخلق سلوكياتهم المترابطة حداً أدنى من المخاطر غير القابلة للتنويع، مما يعني أنه حتى مع تحسن النماذج الفردية، يصبح النظام ككل أكثر هشاشة أمام صدمات معينة.
والدلالة هنا مهمة للعدد المتزايد من المؤسسات التي تنشر نماذج اللغة الكبيرة في مجالات حساسة مثل التمويل والإشراف على المحتوى والتوظيف. فإذا كانت النماذج جميعها ترتكب أخطاء مماثلة تحت ظروف مماثلة، فإن الأخطاء تتضاعف بدلاً من أن تلغي بعضها. وهذا يختلف جوهرياً عن سلوك البشر في اتخاذ القرارات، فالناس يختلفون وهذا الاختلاف يوفر فائدة تنويع طبيعية.
ويطور الباحثون إطاراً عاماً لفهم مخاطر الترابط هذه ويختبرون تنبؤاته مقابل أسواق مالية محاكاة. وتشير نتائجهم إلى أن التنوع في هندسات النماذج وأساليب التدريب واستراتيجيات النشر قد يكون أهم لسلامة النظام من القدرة الخام للنموذج وحدها.
