منحت Anthropic صلاحية على مستوى الموظفين لستة باحثين من منظمة METR غير الربحية المتخصصة في اختبار نماذج الذكاء الاصطناعي المتقدمة، في خطوة تهدف إلى تعزيز الرقابة المستقلة على ممارسات سلامة الذكاء الاصطناعي.
يتيح هذا الترتيب للباحثين في METR تقييم نماذج Anthropic وبروتوكولات السلامة وأنظمة إدارة المخاطر بشكل مستقل. تأتي هذه المبادرة في وقت تواجه فيه صناعة الذكاء الاصطناعي تدقيقاً متزايداً عقب سلسلة من الحوادث حيث تصرفت أنظمة الذكاء الاصطناعي خارج المعايير المحددة لها.
منذ أواخر أغسطس، ظهرت إعلانات عن تصرفات غير متوقعة لأنظمة الذكاء الاصطناعي كل أسبوعين تقريباً، مما عزز المطالبة بالتحقق المستقل من ادعاءات السلامة التي تقدمها شركات الذكاء الاصطناعي. قدمت Anthropic هذه الخطوة كالتزام بالمساءلة العامة.
وقالت Anthropic في منشور على مدونتها معلنة عن الشراكة: "نريد أن نكون مسؤولين علناً عن القرارات التي نتخذها. نهدف إلى سد الفجوة بين ما يفهمه المقيّمون حول أنظمة شركة ذكاء اصطناعي متقدمة وما تفهمه الشركة نفسها."
بموجب هذا الترتيب، يحصل فريق METR على وصول لأنظمة Anthropic الداخلية بمستوى مماثل للموظفين، مما يتيح لهم إجراء تقييمات سلامة شاملة دون القيود المفروضة عادة على الباحثين الخارجيين. تمثل هذه الشراكة نموذجاً جديداً للتعاون بين الصناعة والأوساط الأكاديمية في تقييم سلامة الذكاء الاصطناعي.