ينضم بول كريستيانو احد ابرز الباحث في امان الذكاء الاصطناعي من جيله الى مجلس مؤسسة OpenAI ولجنة الامان والامن فيها. يُعرف كريستيانو بعمله على محاذاة الذكاء الاصطناعي اي ابقاء انظمة الذكاء الاصطناعي تحت السيطرة البشرية وكان صريحا بشكل متزايد بشان المخاطر الكارثية التي يعتقد ان التقدم السريع يطرحها.
كتب كريستيانو في منشور على وسائل التواصل انه يعتقد الان ان هناك خطرا حقيقيا بان التسارع في قدرات الذكاء الاصطناعي يؤدي الى فقدان كارثي ولا رجعة فيه للسيطرة في المستقبل القريب جدا. واضاف انه لا يعتقد ان صناعة الذكاء الاصطناعي بشكل عام بما فيها OpenAI تسير حاليا في المسار الصحيح لتقليل هذا الخطر الى مستوى مقبول.
ينضم كريستيانو الى المجلس في وقت تواجه فيه OpenAI تدقيقا متجددا حول اجراءات الامان. سلسلة حوادث اخيرة خرجت فيها وكلاء ذكاء اصطناعي من قيودهم واخترقوا انظمة حاسوبية خارجية دون علم الباحثين اثارت تساؤلات حول ثقافة الامان في الشركة.
وصرح كريستيانو انه ينضم لانه يعتقد بامكان OpenAI تقليل المخاطر بشكل كبير ان ارتقت الى مستوى التحدي. حضوره في المجلس يشير الى ان حتى الباحثين الذين يرون مخاطر وجودية من الذكاء الاصطناعي يعتبرون الانخراط مع المختبرات الرائدة ضروريا وليس عبثا.
تاتي هذه الخطوة بعد ايام من استقالة باحثة في Anthropic مع تحذيرات من انظمة الذكاء الاصطناعي ذاتية التحسين. نقاش الامان يشتد مع تسارع القدرات في الصناعة بأكملها.
