غُرم محامٍ 5000 دولار بعد الاستشهاد بشهادة مفبركة وشهود غير موجودين ولدتهما روبوتات الدردشة الذكية في قضية قتل، مما يمثل واحدة من أهم العقوبات القضائية على هلوسات الذكاء الاصطناعي في الإجراءات القانونية حتى الآن. أعاد الحادث إشعال المخاوف حول استعداد المهنة القانونية لدمج أدوات الذكاء الاصطناعي في الممارسة والعواقب المحتملة للفشل في التحقق من المحتوى المولد بالذكاء الاصطناعي.
وقع الحادث عندما استخدم المحامي ChatGPT للبحث في السوابق القضائية وتوليد حجج داعمة لالتماس. أنتج نظام الذكاء الاصطناعي بيانات شهود مقنعة ولكن خيالية تماماً وسوابق قانونية قدمها المحامي إلى المحكمة دون التحقق منها، واثقاً من أن مخرجات روبوت الدردشة كانت تمثيلات دقيقة لحالات وشهادات حقيقية.
فرض القاضي الغرامة بعد أن حدد أن المحامي فشل في ممارسة العناية المهنية الكافية في التحقق من المحتوى المولد بالذكاء الاصطناعي. وأكدت المحكمة أن المحامين يظلون مسؤولين بالكامل عن جميع المواد التي يقدمونها، بغض النظر عن كيفية توليد تلك المواد، وأن الاعتماد على أدوات الذكاء الاصطناعي لا يعفي من الالتزام بضمان الدقة والأصالة.
تسلط هذه القضية الضوء على تحدٍ مستمر مع نماذج اللغة الكبيرة: ميلها لتوليد معلومات تبدو معقولة ولكنها مفبركة. بينما تحسنت أنظمة الذكاء الاصطناعي بشكل كبير في الدقة والموثوقية، إلا أنها لا تزال عرضة للهلوسات — تأكيدات واثقة بحقائق خاطئة يمكن أن يكون من الصعب تمييزها عن المعلومات الحقيقية دون تحقق دقيق ومقارنة مع مصادر موثوقة.
يجادل خبراء أخلاقيات القانون بأن القضية يجب أن تكون تحذيراً صارخاً للمهنة. ومع أصبحت أدوات الذكاء الاصطناعي أكثر انتشاراً في البحث القانوني وصياغة المستندات، يجب على المحامين تنفيذ بروتوكولات تحقق قوية لضمان دقة المحتوى المولد بالذكاء الاصطناعي قبل تقديمه إلى المحاكم. تنظر عدة نقابات محامين الآن في إصدار توجيهات رسمية حول استخدام أدوات الذكاء الاصطناعي، مما قد يتطلب تعليماً قانونياً مستمراً حول قيود الذكاء الاصطناعي وأفضل ممارسات التحقق.
