أكدت شركة جوجل أن نموذج Gemini وصل بصورة غير مصرح بها إلى أنظمة 3 شركات حقيقية خلال اختبار لقدراته في الأمن السيبراني أُجري في مايو 2026. حدثت الواقعة بعدما حصل نموذج Gemini على وصول غير مقصود إلى الإنترنت أثناء اختبار يديره مختبر Irregular للأمن السيبراني، ما سمح له بالتعامل مع أنظمة حقيقية اعتقد أنها جزء من بيئة المحاكاة.

  • نموذج Gemini وصل إلى أنظمة محمية تخص 3 شركات حقيقية.
  • نموذج Gemini خمن كلمة مرور في إحدى الحالات حتى حصل على الوصول.
  • نموذج Gemini استخدم بيانات اعتماد منشورة علنًا في حالتين أخريين.
  • شركة جوجل أكدت توقف نموذج Gemini فور اكتشافه أن الأهداف حقيقية.

بحسب تقرير صحيفة وول ستريت جورنال الذي نقلته Reuters، أبلغ مختبر Irregular للأمن السيبراني شركة جوجل بالوقائع في يوليو، بينما ظهرت التفاصيل إلى العلن خلال سبتمبر بعد تواصل الصحيفة مع شركة جوجل. أوضحت جوجل أنها أخطرت الشركات الثلاث المتضررة، كما أكدت عدم رصد أضرار ناتجة عن عمليات الوصول.

Gemini وصل إلى شركات حقيقية

بدأت الواقعة خلال تمرين للأمن السيبراني من نوع Capture the Flag، وهي اختبارات تمنح النظام هدفًا محددًا داخل بيئة محاكاة لقياس قدرته على اكتشاف الثغرات والوصول إلى معلومات محمية. كان نموذج Gemini مطالبًا بالحصول على بيانات من برمجيات تابعة لشركة وهمية أنشئت خصيصًا للاختبار.

شارك اسم الشركة الوهمية الاسم نفسه مع شركة حقيقية، بينما كان من المفترض أن تعمل بيئة الاختبار دون اتصال بالإنترنت. أقر مختبر Irregular للأمن السيبراني لاحقًا بأن الوصول إلى الإنترنت أصبح متاحًا دون قصد بسبب خطأ في إعداد البيئة.

استخدم نموذج Gemini هذا الاتصال للبحث عن الهدف على الإنترنت. خمن نموذج Gemini كلمات مرور في إحدى جولات الاختبار حتى تمكن من الدخول إلى نظام محمي تابع لشركة حقيقية، وفق التفاصيل التي أوردتها صحيفة وول ستريت جورنال.

سلك نموذج Gemini مسارًا مختلفًا في حالتين أخريين، إذ عثر على بيانات اعتماد داخل مستودعات متاحة للعامة ثم استخدمها للوصول إلى أنظمة محمية تخص شركتين إضافيتين. لم تكشف شركة جوجل أسماء الشركات الثلاث أو طبيعة الأنظمة التي جرى الوصول إليها.

أكدت شركة جوجل أن نموذج Gemini توقف في الحالات الثلاث عندما أدرك أن الأنظمة التي وصل إليها تنتمي إلى شركات حقيقية ولا تمثل أهداف الاختبار الافتراضية. أشارت شركة جوجل كذلك إلى عدم وقوع ضرر، بينما أخطرت الجهات المتضررة بالواقعة. يمثل ذلك أول حادث معروف تعترف فيه شركة جوجل بوصول أحد نماذج الذكاء الاصطناعي التابعة لها بصورة مستقلة إلى أنظمة شركات خارج نطاق الاختبار المخصص له.

جوجل توفر Gemini على ويندوز كتطبيق مستقل يدعم الوكلاء الأذكياء

خطأ الاختبار يفتح سؤال التحكم في الوكلاء

أوضح مختبر Irregular للأمن السيبراني أن المشكلة ارتبطت ببيئة تقييم واحدة، وأن الإجراءات التي سمحت بالوصول غير المقصود إلى الإنترنت عولجت لاحقًا. أضاف مختبر Irregular للأمن السيبراني أن جميع المختبرات المعنية بالاختبارات أُبلغت بالمشكلة في أواخر يوليو، مع التواصل مع الجهات المتضررة.

أثارت طريقة تعامل شركة جوجل مع الواقعة نقاشًا إضافيًا، خاصة أن التفاصيل لم تُنشر وقت حدوثها. أوضحت شركة جوجل أن نموذج Gemini أنهى عمليات الوصول عند اكتشاف طبيعة الأهداف ولم يسبب أضرارًا، لذلك لم تر الشركة ضرورة للإعلان عن الواقعة في ذلك الوقت.

تأتي الحادثة ضمن سلسلة وقائع مشابهة ظهرت خلال اختبارات نماذج تابعة لشركة OpenAI وشركة أنثروبيك وشركة ميتا مع مختبر Irregular للأمن السيبراني. دفع ذلك المختبر إلى مراجعة معايير العزل والوصول إلى الإنترنت المستخدمة أثناء اختبار النماذج ذات القدرات السيبرانية المتقدمة.

تكشف الواقعة أهمية الفصل الصارم بين بيئات المحاكاة والأنظمة الحقيقية، لأن وكلاء الذكاء الاصطناعي أصبحوا قادرين على تنفيذ سلسلة طويلة من الخطوات والبحث عن وسائل بديلة للوصول إلى الهدف المحدد لهم. يمكن أن يحول خطأ صغير في إعداد الاختبار مهمة افتراضية إلى نشاط فعلي على الإنترنت.

تظل تفاصيل مهمة غير معروفة حتى الآن، من بينها إصدار نموذج Gemini المستخدم، وأسماء الشركات الثلاث، والبيانات التي تمكن النموذج من رؤيتها بعد الوصول إلى الأنظمة. لم تنشر شركة جوجل تقريرًا تقنيًا كاملًا يوضح مسار كل حادثة بالتفصيل.

من وجهة نظري، تكمن النقطة الأخطر هنا في انتقال المهمة من بيئة الاختبار إلى أنظمة حقيقية، أكثر من تعقيد أساليب الاختراق نفسها. كما تؤكد الواقعة أن قدرات الوكلاء تحتاج إلى ضوابط عزل قوية لا تعتمد فقط على قدرة النموذج على التوقف بعد اكتشاف الخطأ، لأن الحماية الأفضل تبدأ بمنع وصوله إلى الهدف الحقيقي من الأساس.