كشف نقاش مستدير نظمته MIT Technology Review عن خطوط صدع كبيرة بين باحثين تنفيذيين بارزين في الذكاء الاصطناعي حول مزاطر الوجودية من أنظمة الذكاء الاصطناعي المتقدمة، مما يكشف عن مجال منقسم بشدة حول كيفية توصيل الأخطار المحتملة للجمهور.
شمل المشاركون باحثين من مختبرات ذكاء اصطناعي كبرى حذروا علناً من المخاطر الكارثية، إلى جانب مشككين يجادلون بأن أنظمة الذكاء الاصطناعي الحالية لا تشكل تهديداً وجودياً وأن الرسائل المبالغة تقوض مخاوف السلامة المشروعة. سلط النقاش الضوء على خلافات أساسية حول تقديرات الاحتمالات وتوقعات الجدول الزمني والنبرة المناسبة للخطاب العام.
أعرب عدة مشاركين عن قلقهم من أن سرد نهاية العالم بالذكاء الاصطناعي أصبح غير منتج، مما قد يؤدي إلى تخدير صانعي السياسات والجمهور تجاه قضايا السلامة الحقيقية بينما يوفر ذخيرة لمن يرفضون جميع مخاوف سلامة الذكاء الاصطناعي على أنها هستيريا. وجادل آخرون بأن التقليل من المخاطر يمكن أن يؤدي إلى إعداد غير كافٍ لسيناريوهات، بينما غير محتملة، ستكون لها عواقب على مستوى الحضارة.
لمس النقاش أيضاً الديناميكيات المؤسسية القائمة. الباحثون الذين يثيرون مخاطر الوجودية غالباً ما يواجهون تكاليف مهنية، بما في ذلك انتقادات من زملاء يعتبرون مثل هذه التحذيرات ضارة بسمعة المجال. بالمقابل، أولئك الذين يرفضون حجج المخاطر الوجودية يواجهون أحياناً اتهامات بالتراخي أو الاستيلاء الصناعي.
على الرغم من خلافاتهم، وجد المشاركون أرضية مشتركة في عدة نقاط: الحاجة إلى بحث تجريبي أكثر صرامة حول قدرات الذكاء الاصطناعي، وآليات تنسيق محسنة بين مختبرات الذكاء الاصطناعي، وشفافية أكبر حول تدابير السلامة التي يتم تنفيذها.