يظهر تناقض على حافة تطور الذكاء الاصطناعي: نماذج قادرة على التفكير المعقد تخفق أحياناً في الإملاء البسيط. وثق باحثو جوجل هذه الظاهرة، وأظهروا أن أحدث النماذج اللغوية تخطئ بكلمات إنجليزية أساسية عند التفكير خطوة بخطوة.
المشكلة أعمق من خلل في التدريب. عندما تُجبر النماذج على التفكير المنطقي، يصبح إخراجها النصي أقل انضباطاً. تعطي الشبكات العصبية الأولوية للاتساق المنطقي على سلامة الإملاء. هذا يشير إلى مقايضة: قد تأتي قوة التفكير على حساب دقة اللغة.
للتطبيقات التي تتطلب تفكيراً وإملاءً دقيقاً، هذا الاكتشاف مهم. يعني أن توسيع قدرة النموذج لا يعني بالضرورة توسيع جميع الخصائص اللغوية بالتساوي.
