أنثروبيك في ورطة: تسريب الكود المصدري لأداة الذكاء الاصطناعي Claude!
صرحت شركة أنثروبيك أن جزءًا كبيرًا من الكود المصدري لأداة الذكاء الاصطناعي Claude تم تسريبه!
كيف حدث التسريب؟
ببساطة، بدأت القصة عندما أطلقت الشركة تحديثًا جديدًا لـ Claude، لكنها أدرجت ملفًا داخليًا بالخطأ يحمل الاسم "Source Map" بحجم 59.8 ميجابايت. هذا الملف، المخصص عادةً لأغراض التصحيح الداخلي، احتوى على مئات الآلاف من الأسطر السرية، التي سرعان ما انتشرت على الإنترنت واطلع عليها آلاف المطورين.
أوضحت أنثروبيك أن التسريب لم ينجم عن اختراق، وإنما عن خطأ بشري أثناء نشر التحديث، مؤكدةً أن بيانات المستخدمين لم تتأثر. لكن المشكلة الحقيقية ليست في البيانات، بل في أن المنافسين أصبح لديهم الآن فكرة واضحة عن كيفية عمل Claude، الذي يُدر مليارات الدولارات سنويًا بالمناسبة.
أبرز ما كشفه التسريب
حصل المطورون على دليل لآلية عمل النظام؛ يمكننا تلخيصه في الآتي:
يعتمد Claude على طريقة ذكية لتنظيم المعلومات تقوم على 3 مستويات. المستوى الأول، الذي يُعرف بـ "MEMORY.md"، هو عبارة عن فهرس أو دليل يحتوي على إشارات مختصرة تُخبر النظام أين يجد المعلومات التي يبحث عنها المستخدم.
في المستوى الثاني، الذي يحمل اسم "Topic Files"، يتم تخزين المعلومات الحقيقية ويتم فتحها فقط عند الحاجة.
أما المستوى الثالث، ويُسمى "Raw Logs"، فيجعل النظام يبحث بسرعة عن الكلمات المفتاحية دون تحميلها بالكامل، وبالتالي يُسرع من عمل الأداة.
كشف التسريب أيضًا أن النظام يمتلك آلية للتحقق من صحة المعلومات قبل الإجابة على المستخدم، وذلك لتقليل الهلوسة وعدد الإجابات الخاطئة.
ومن أخطر ما أفضى إليه التسريب أن Claude يحتوي على ميزة تُسمى "KAIROS"؛ تجعله يعمل في الخلفية حتى عندما لا تستخدمه، وذلك لمراجعة المعلومات وحذف التناقضات، وغير ذلك من العمليات المهمة لتحسين جودة الإجابة.
الأخطر من ذلك أن Claude يملك وضعًا يُسمى "الوضع المتخفي Undercover Mode"؛ يُمَكنه من العمل في مشاريع عامة مثل GitHub دون أن يوضح أنه ذكاء اصطناعي، مع تعليمات صارمة بعدم كشف "هويته"!
