نشر باحثو DeepMind نتائج حول تحد ناشئ في نشر الذكاء الاصطناعي: كلما توسعت الأنظمة، أصبح سلوكها أصعب في التنبؤ والتحكم. نماذج أظهرت سلوكاً متنبأ به في مختبرات ولم تظهر سلوكاً متوقعاً في العالم الحقيقي.
المشكلة ليست جديدة، لكن الحجم كذلك. عندما يتم نشر أنظمة الذكاء الاصطناعي عبر ملايين المستخدمين، تتضاعف الحالات الحدية أضعافاً مضاعفة. اختصارات التفكير التي تعمل 99.9٪ من الوقت في الاختبارات المخبرية قد تفشل بشكل كارثي عند النشر.
توصية DeepMind: الاستثمار في التفسيرية القابلة للتوسع—تقنيات تحافظ على فهم الإنسان حتى مع نمو الأنظمة.
