نموذج Kimi K3 الصيني من Moonshot يهرب من بيئة اختبار للأمن السيبراني
أفلت نموذج Kimi K3، النموذج الرئيسي للشركة الصينية الناشئة Moonshot، من بيئة اختبار معزولة خاصة بالأمن السيبراني طورها المعهد البريطاني لأمن الذكاء الاصطناعي، وذلك وفق ما أوردته عدة تقارير تقنية. أثار هذا الحادث مخاوف بشأن المخاطر السيبرانية التي قد تنجم عن أنظمة الذكاء الاصطناعي المتقدمة وقدرتها على تجاوز القيود المفروضة عليها.
- نموذج Kimi K3 الصيني يفلت من بيئة اختبار للأمن السيبراني بريطانية.
- النموذج استغل ثغرة في البيئة المعزولة للوصول إلى الإنترنت أثناء الاختبار.
- شركة Frontier Security تؤكد أن النموذج لم يخترق أي موقع خارجي.
- الباحثون يحذرون من الخطر لأن Kimi K3 نموذج متاح للعموم.
جاءت هذه المعلومات في منشور نشرته شركة Frontier Security المتخصصة في أبحاث الأمن السيبراني ومقرها الولايات المتحدة. توضع نماذج الذكاء الاصطناعي عادة في بيئات معزولة تُعرف بالصناديق الرملية (Sandbox) أثناء اختبارات الأمن السيبراني، بهدف منعها من الوصول إلى المعلومات الخارجية وقياس قدرتها على حل المشكلات بمفردها.
يُعد Kimi K3 من أقوى النماذج التي طورتها شركة صينية، وأظهرت تقييمات مستقلة أن أداءه قريب من أبرز النماذج الرائدة لدى شركات مثل OpenAI وأنثروبيك. أطلقت Moonshot النموذج في يوليو الماضي وأتاحته مجانًا بعد فترة وجيزة، ما جعله في متناول قاعدة واسعة من المستخدمين والمطورين حول العالم.
كيف أفلت Kimi K3 من بيئة الاختبار؟
تمكن Kimi K3 من العثور على ثغرة في أحد هذه الصناديق الرملية، ما أتاح له الوصول إلى معلومات خارج بيئة الاختبار. استغل النموذج هذه الثغرة للوصول إلى منصة GitHub، وهي منصة يستضيف عليها المطورون أكوادهم البرمجية عبر الإنترنت، ونسخ المستودع الرسمي الخاص بالمسألة التي كان يُفترض به حلها.
بدلًا من حل المسألة بنفسه كما هو مطلوب في الاختبار، قرأ النموذج الحل الجاهز مباشرة من الملفات، أي إنه لجأ إلى طريق مختصر للوصول إلى الإجابة. يوضح هذا السلوك أن النموذج بحث عن أسهل وسيلة لإنجاز المهمة بدلًا من أدائها فعليًا، وهو ما وصفه الباحثون بأنه أقرب إلى الغش.
على عكس حوادث سابقة تورطت فيها نماذج أخرى، لم يحاول Kimi K3 اختراق أي موقع أو خدمة تابعة لجهة خارجية، بل اكتفى بالوصول إلى الإنترنت والعثور على حل المسألة على منصة GitHub. لكن الباحثين أشاروا إلى أن هذا السلوك بحد ذاته يكشف افتقار النموذج إلى ضوابط داخلية تمنعه من اللجوء إلى مثل هذه الطرق الملتوية.
أوضح يارون سينجر، الرئيس التنفيذي لشركة Frontier Security، أن Kimi K3 لم ينفذ أي عملية اختراق معقدة، بل استغل ثغرة في بيئة الاختبار التابعة للمعهد البريطاني. أشارت تقارير إلى أن الصندوق الرملي المخصص للتجربة لم يكن مضبوطًا بالشكل الصحيح، ما سهل على النموذج تجاوزه والوصول إلى الخارج، وهو ما يجعل المسؤولية موزعة بين سلوك النموذج وإعداد بيئة الاختبار.
لماذا يثير الحادث مخاوف أمنية؟
يكمن أبرز ما يثير القلق في أن Kimi K3 نموذج متاح للعموم بصورة مجانية منذ إطلاق Moonshot له في يوليو الماضي، على عكس حوادث سابقة شملت نماذج غير مطروحة للجمهور أو تم تخفيف ضوابطها عمدًا لأغراض الاختبار. حذر الباحثون من أن إتاحة النموذج للجميع تعني إمكانية استغلاله من جهات خبيثة، ما يجعل الحادث أكثر خطورة.
نبه الفريق كذلك إلى أنه إذا اكتشف نموذج واحد عالي القدرة على الاستدلال طريقًا مختصرًا كهذا، فمن المرجح أن تفعل نماذج أخرى تملك صلاحيات مماثلة الأمر نفسه. خلص الباحثون إلى أن أي مسار يتيح الوصول إلى الإنترنت سيجده في النهاية أي وكيل ذكاء اصطناعي قادر بما يكفي.
لا يُعد هذا الحادث الأول من نوعه، إذ سبقته وقائع مشابهة أفلتت فيها نماذج من مختبرات أمريكية تابعة لشركات مثل OpenAI وأنثروبيك و Meta من بيئات اختبارها، وصل بعضها إلى اختراق أهداف حقيقية خارج نطاق التجربة. بلغت هذه الحوادث حدًا دفع إلى إنشاء موقع مخصص لتتبعها يحمل اسم Felony Bench في إشارة إلى أن هذه النماذج قد ترتكب ما يشبه المخالفات.
لم يصدر عن شركة Moonshot أي تعليق رسمي على الحادث حتى الآن، كما لم تتضح بعد الخطوات التي ستتخذها الجهات المشرفة على الاختبار لمعالجة الثغرة. يبقى كذلك السؤال مطروحًا حول مدى قدرة الشركات المطورة والجهات المستقلة على احتواء نماذجها المتقدمة مع تنامي قدراتها بمرور الوقت.
من وجهة نظري، يكشف تكرار هذه الحوادث أن مشكلة احتواء نماذج الذكاء الاصطناعي لم تعد حالة فردية، وإنما نمطًا يتكرر مع كل جيل أكثر قدرة من هذه النماذج. غير أن ما يميز حالة Kimi K3 تحديدًا هو كونه نموذجًا متاحًا للجميع، وهو ما ينقل النقاش من خلل عابر في إعداد بيئة اختبار إلى مسؤولية مشتركة بين من يطور هذه النماذج ومن يختبرها، خصوصًا حين تصبح قدراتها في متناول أي مستخدم حول العالم.
