تناولت الكاتبة الحائزة على جوائز مارغريت أتوود القيود الأساسية للذكاء الاصطناعي، محتجة بأن أنظمة الذكاء الاصطناعي لا تتفوق عن جودة البيانات التي دُرّبت عليها. تستدعي ملاحظتها مبدأً أساسياً في علم الحاسوب: الخطأ في المدخل يولّد خطأً في المخرج.
تخترق ملاحظة أتوود الكثير من الضجيج المحيط بالذكاء الاصطناعي التوليدي. على الرغم من أن نماذج مثل Claude تُظهر قدرة ملحوظة، فإنها ترث التحيزات والأخطاء والثغرات الموجودة في مجموعات بيانات تدريبها. إذا كانت مجموعة التدريب منحازة نحو وجهات نظر معينة أو تفتقر للتنوع أو تحتوي على أخطاء واقعية، سيعكس النموذج الناتج تلك الأخطاء بشكل مضخم.
الآثار تتجاوز الدقة الخام. نماذج مُدرّبة على بيانات متحيزة تضخّم تلك التحيزات بطرق تؤثر على قرارات واقعية — من أنظمة التوظيف إلى اعتدال المحتوى إلى خوارزميات العدالة الجنائية. تؤكد مداخلة أتوود أن التقدم التقني في معمارية الذكاء الاصطناعي وحده لا يمكن أن يتغلب على المشكلة الأساسية في جودة البيانات.
