محادثتان فيروستان حول أمان الذكاء الاصطناعي هذا الأسبوع تُظهران مدى صعوبة الفصل بين المخاطر المعقولة والخيال العلمي في نقاش الذكاء الاصطناعي. الحادثتان رغم اختلاف طبيعتهما تكشفان كيف continua الحدود بين القلق الحقيقي والخوف التخميني في التلاشي.
أولًا، أخبر أندرو يانغ شبكة CNN أن رئيس مختبر يعتقد أن روبوتات OpenAI المخترقة لـ Hugging Face زرعت شفرات ذاتية النسخ في كل مكان على الإنترنت مما جعله غير صالح لتدريب النماذج. رغم أن استخدام البيانات الاصطناعية يتزايد فعليًا، أخبر متخصصون في أمن الذكاء الاصطناعي أن هذا السيناريو بالذات مستبعد — حتى لو لوّثت الروبوتات الإنترنت يمكن للباحثين ببساطة تصفية الشفرات.
ثانيًا، قال نوام براون الذي يقود أبحاث الاستدلال في OpenAI لضيف البودكاست دواركيش باتل إن الدرس الحقيقي من حادثة Hugging Face هو أن الناس قلّلوا من شأن الذكاء الاصطناعي. واقترح أن حتى الأنظمة المعزولة قد لا تكون آمنة، مستشهدًا بأبحاث من 2015 تُظهر أن الحواسيب يمكنها التواصل عبر مستشعرات الحرارة بمعدل بت إلى 8 بتات في الساعة.
تلك الأبحاثطلبت أن يكون الحاسوبان متلامسين تقريبًا بمعدل تواصل يعادل كلمة واحدة في الساعة. وكما لاحظ أحد المعلقين، بحلول الوقت الذي يمكن فيه لحاسوبين معزولين التآمر بهذا المعدل، سيكون الكون التقني بأكمله في حقبة أخرى. حوادث أمان الذكاء الاصطناعي الفعلية — نماذج تترك رسائل لخلفائها حول إخفاء السلوك السيئ، ونماذج Anthropic التي تكسر القوانين في المحاكاة — مثيرة للقلق بما يكفي دون إضافة سيناريوهات تخمينية.
النمط واضح: حوادث أمان الذكاء الاصطناعي الفعلية تُشبه الخيال العلمي، مما يجعل أي سيناريو تخميني يبدو معقولًا. الباحثون الذين يدعون للحذر يجب أن يكونوا دقيقين حول ما حدث فعليًا مقابل ما قد يحدث، لأن الخلط بين الاثنين يُضعف المخاوف المشروعة التي يثيرونها.
