رصدت شركة Amazon عدة حوادث أدى فيها الاستخدام الخاطئ لأدوات الذكاء الاصطناعي إلى تجاوزات كبيرة في الميزانيات المخصصة لبعض المشاريع التقنية، في ظل غياب ضوابط فعّالة لمراقبة الإنفاق.
وبحسب تقرير نشرته صحيفة فايننشال تايمز، عُرِضت هذه الحالات خلال اجتماع داخلي للشركة، كشف أن الاعتماد على نماذج الذكاء الاصطناعي في بعض المهام البرمجية أدى إلى تكاليف غير متوقعة، فيما تعمل Amazon حاليًا على تطوير وسائل حماية آلية وإجراءات إضافية للحد من تكرار مثل هذه التجاوزات مستقبلًا.
وأشار التقرير إلى أن إحدى أبرز الحالات تمثلت في مشروع استخدمت فيه الشركة نموذج Claude Sonnet التابع لشركة Anthropic لمطابقة بيانات المؤلفين مع القوائم الموجودة على متجر Amazon، حيث بلغت تكلفة تشغيل المشروع نحو 1.8 مليون دولار، متجاوزًا بذلك الميزانية المخصصة له بنسبة 860% رغم أن المشروع لم يصل إلى مرحلة النشر أو الاستخدام الفعلي. ولم تكتشف الشركة هذا التجاوز إلا بعد مرور خمسة أشهر.
ولم تكن هذه الحادثة الوحيدة، فقد تكبدت الشركة في مشروع آخر لتطوير أدوات للتدقيق المالي، نفقات غير متوقعة بلغت نحو 541 ألف دولار.
كما أدى خطأ في استخدام الذكاء الاصطناعي ضمن مشروع ثالث لتحسين سرعة عمليات التسليم عبر شبكة Amazon اللوجستية إلى إنفاق غير مقصود بلغ 134 ألف دولار، ولم يُكتشف إلا بعد أكثر من أسبوعين.
ومن جانبها، أوضحت Amazon أن هذه الحالات تقتصر على عدد محدود من الفرق داخل الشركة، وأنها تُعد أمثلة تتعلم فيها الفرق من أخطائها، وقالت أن تصوير هذه الحالات على أنها تعكس طريقة استخدام الشركة للذكاء الاصطناعي بشكل عام لا يعكس الواقع.