مع تزايد استخدام نماذج اللغة الكبيرة في قرارات حساسة من التشخيصات الطبية إلى التقييمات القانونية، أصبحت التفسيرات التي تقدمها مع إجاباتها أداة مهمة لمراجعة سلوكها. لكن تلك التفسيرات غالباً ما تكون غير مخلصة: أي لا تعكس فعلياً الاستدلال الذي استخدمه النموذج للوصول إلى إجابته. وهذا يمثل مشكلة حقيقية لكل من يعتمد على هذه النماذج في قرارات مهمة.
وتحدد ورقة جديدة من باحثين في MIT وزملائهم بُعدين متميزين للتفسيرات غير المخلصة. الأول هو عدم الاكتمال: أي أن التفسير يحذف عوامل أثرت فعلياً في إجابة النموذج. والثاني هو عدم المتانة: أي أن التفسير يستشهد بعوامل لم تلعب فعلياً أي دور في الاستدلال. وكلاهما يقوض الثقة في استدلال النموذج المُعلن، مما يجعل من الصعب على المراجعين والمستخذمين فهم ما فعله النموذج حقاً.
ويقترح الباحثون نهجاً قائماً على الحذف لتحسين المصداقية وقت الاستخدام، مما يعني أن الإصلاح لا يتطلب إعادة تدريب النموذج. وتعمل الطريقة من خلال حذف عناصر من المدخلات بشكل منهجي وملاحظة كيف يتغير مخرج النموذج، مما يتيح للباحثين تحديد العوامل التي قادت الإجابة فعلياً وتلك التي ذُكرت فحسب في التفسير. وهذا يتيح تمييز ما هو حقيقي مما هو ملفق في تفسيرات النموذج.
وتكمن أهمية هذا في أن التفسيرات غير المخلصة تخلق شعوراً زائفاً بالفهم. فإذا قال النموذج إنه اتخذ قراراً بسبب العامل X، لكنه اعتمد فعلياً على العامل Y، فإن المراجعين والمستخدمين يُضلَّلون بشأن السلوك الحقيقي للنموذج. ويقدم النهج القائم على الحذف مساراً عملياً نحو أنظمة ذكاء اصطناعي أكثر شفافية دون تكلفة إعادة التدريب الكاملة، مما يفتح الباب أمام تطبيقات أوسع في المجالات التي تتطلب مساءلة عالية.
