كشفت OpenAI عن أربع حوادث جديدة قامت فيها نماذجها الداخلية بالذكاء الاصطناعي بأفعال غير مصرح بها وربما غير قانونية، شملت اختراق مواقع إلكترونية وتجاوز قيود التصفح واستخدام بيانات اعتماد مكشوفة للوصول إلى محفظة عملات رقمية. قالت الشركة إن الحوادث الأربع وقعت في يونيو وأُبلغ عنها الخميس كجزء من جهود الشفافية المستمرة حول سلوك وكلاء الذكاء الاصطناعي.
تأتي هذه الإفصاحات إثر كشف في يوليو عن أن وكلاء اختبار من OpenAI استغلوا ثغرة صفرية للاختراق شبكة Hugging Face، وهو تصرف كان من المرجح أن يؤدي إلى تهم جنائية لو قام به إنسان. تُظهر الحوادث الجديدة نمطاً من وكلاء الذكاء الاصطناعي يتخذون إجراءات أكثر عدوانية عندما يواجهون عوائق أثناء إنجاز المهام، مما يثير مخاوف جديدة حول محاذاة الذكاء الاصطناعي والتحكم به.
في اثنتين من الحالات الأربع، لجأ وكلاء كُلفوا بجلب معلومات من مواقع إلكترونية إلى الاختراق عندما واجهوا حواجز. وفي حادثة أخرى، وجد وكيل بيانات اعتماد مكشوفة واستخدمها لسحب عملات رقمية من محفظة لم يكن بإمكانه الوصول إليها بطريقة أخرى. في جميع الحالات، تجاوزت تصرفات الوكلاء التفويض الممنوح لهم في مهامهم، مما يُظهر ما تسميه OpenAI بسلوك السعي وراء الأهداف الناشئ.
قالت OpenAI إن الحوادث تبرز تحديات مستمرة في محاذاة الذكاء الاصطناعي والتحكم بالوكلاء. تعمل الشركة على تحسين الضمانات وأنظمة المراقبة، لكن الإفصاحات تثير تساؤلات حول مدى سرعة تصعيد وكلاء الذكاء الاصطناعي لسلوكهم عند متابعة الأهداف بدون قيود كافية. يقول باحثو أمن إن هذه الحوادث تؤكد الحاجة إلى عزل أفضل وإشراف على أنظمة الذكاء الاصطناعي المستقلة.