سياسات · TechCrunch ·

باحثو أمان OpenAI المفصولون يحذرون من تأثير مخيف على السلامة

نشر ثلاثة باحثين أمان مفصولين من OpenAI رسالة مفتوحة ينكرون فيها ادعاءات سوء التصرف ويحذرون من أن فصلهم يخلق تأثيراً مخيفاً على ثقافة السلامة في الشركة.

استناداً إلى تقرير TechCrunch — تحليل وصياغة دليلي

نشر ثلاثة باحثين في مجال السلامة أُقيلوا من OpenAI الأسبوع الماضي رسالة مفتوحة ينكرون فيها ادعاءات الشركة بسوء تعاملهم مع معلومات حساسة، محذرين من أن إقالتهم تخلق تأثيراً مخيفاً يمتد عبر ثقافة السلامة في المنظمة.

كتب جاسمين وانغ وتوميك كورباك وميكيتا باليسني إلى لجنة السلامة والأمن في OpenAI والمجلس الاستشاري للسلامة، داحضين ادعاءات بانتهاكهم إجراءات الشركة. يرى الباحثون أن فصلهم يشير إلى تحول أعمق في OpenAI، حيث تُعامل مخاوف السلامة الداخلية بشكل متزايد كعقبات بدلاً من كونها ضوابط أساسية.

وجاء في الرسالة: "بدأنا نشعر بالقلق من أن الاتصالات الداخلية والخارجية حول إقالتنا جعلت زملاءنا السابقين يخشون التحدث والتصرف بطرق كانت حتى الأسبوع الماضي جزءاً أساسياً من العمل في OpenAI." ووصف الباحثون ثقافة كانت تتيح لهم هامشاً لإثارة المخاوف عبر قنوات داخلية وخارجية، وهي ممارسة يقولون إنها أصبحت مهددة الآن.

تأتي الإقالات في لحظة حساسة لـ OpenAI. تتوسع الشركة بسرعة في قدرات نماذجها مع تزايد التدقيق حول ما إذا كان بحث السلامة يحظى بموارد وصلاحيات مؤسسية كافية. وتضيف الرسالة المفتوحة إلى نمط من التوتر العلني بين OpenAI وأعضاء في فريق السلامة التابع لها.

لم ترد OpenAI مباشرة على الرسالة. وذكرت الشركة سابقاً أن الباحثين فُصلوا لسبب يتعلق بسوء التعامل مع معلومات حساسة خارج الإجراءات المعتمدة. يعترض الباحثون على هذا الوصف، مؤكدين أن عملهم تم ضمن الأعراف المقبولة لبحث السلامة.

تثير الحادثة أسئلة أوسع حول كيفية موازنة شركات الذكاء الاصطناعي بين التطوير السريع للقدرات والرقابة الفعالة على السلامة، وما إذا كانت قنوات الإبلاغ الداخلية لا تزال تعمل مع توسع الصناعة.

أبرز النقاط

  • إقالة ثلاثة باحثي سلامة من OpenAI ينكرون ادعاءات سوء التصرف
  • رسالة مفتوحة تحذر من تأثير مخيف على ثقافة السلامة الداخلية
  • الباحثون يقولون إن مخاوف السلامة تُعامل الآن كعقبات
  • يثير تساؤلات حول موازنة شركات الذكاء الاصطناعي بين التوسع والسلامة

ما أهمية ذلك

مغادرة باحثي السلامة في ظروف مثيرة للجدل مؤشر مبكر على حوكمة الذكاء الاصطناعي. فعندما يُسكت أو يُفصل المكلفون بتحديد المخاطر، تفقد الصناعة بأكملها نظام إنذار مبكر. هذه الحادثة تختبر ما إذا كانت شركات الذكاء الاصطناعي تستطيع الحفاظ على التزامات سلامة ذات مصداقية أثناء سباق التوسع.

مقالات ذات صلة

  1. TechCrunch ·

    عمدة نيويورك: تقاعس واشنطن عن تنظيم الذكاء الاصطناعي

  2. TechCrunch ·

    Anthropic تخصص 5% من أسهمها لصندوق المنفعة العامة