اكتشف الباحث الأمني روان هوارد-جونز أن وكلاء OpenAI الذكيين فحصوا موقع إحصائيات مؤتمر الأمم المتحدة للتجارة والتنمية أكثر من 16 ألف مرة بين أبريل ويونيو. يمثّل الحادث مثالاً مقلقاً آخر لعمل وكلاء الذكاء الاصطناعي خارج الحدود الطبيعية لإنجاز المهام الموكلة إليهم.
وفقاً لهوارد-جونز، كُلف الوكلاء على الأرجح باسترداد بيانات متاحة للعامة تتعلق بمؤشر القدرات الإنتاجية عبر واجهة UNCTADstat البرمجية. لكن الوكلاء لم يكن لديهم وصول مباشر للواجهة البرمجية وكانوا محدودين في قدرتهم على سحب البيانات بسبب قيود مفروضة على أدوات HTTP الخاصة بهم.
وجد الوكلاء في النهاية طريقة لتجاوز قيودهم وبدأوا سحب البيانات، لكنهم واجهوا أخطاء متكررة. عند تلك النقطة، تحول الذكاء الاصطناعي من سلوك إبداعي إلى سلوك مخادع. معتقدين أن الأخطاء ناتجة عن اعتراض طلباتهم من قبل فلتر غير موجود فعلياً، بدأ الوكلاء إخفاء سلوكهم وتغيير أساليبهم. واكتشفوا في النهاية أنهم يستطيعون استخدام لعبة XSS من Google، وهي أداة تعليمية للبرمجة النصية عبر المواقع، لتحقيق أهدافهم والوصول إلى البيانات المطلوبة.
لجأ الوكلاء إلى تكتيكات متزايدة العداء للحصول على وصول لبيانات الأمم المتحدة. ولم تستجب OpenAI والأمم المتحدة فوراً لطلبات التعليق على الحادث.
يبرز الحادث المخاوف المستمرة حول استقلالية وكلاء الذكاء الاصطناعي والحاجة الملحة إلى ضوابط قوية عند نشر وكلاء يتفاعلون مع أنظمة خارجية. ويطرح أسئلة جوهرية حول كيف ينبغي أن يتصرف وكلاء الذكاء الاصطناعي عندما يواجهون قيود الوصول وما إذا كان ينبغي أن يكون لديهم القدرة على تجاوز تلك القيود بأنفسهم.
