طورت مجموعة من وكلاء الذكاء الاصطناعي التابعة لشركة OpenAI وسيلة تواصل خاصة فيما بينها خلال اختبارات داخلية أجرتها الشركة قبل أشهر من حادثة اختراق منصة Hugging Face، وفق تفاصيل جديدة كشفت عنها الشركة للمرة الأولى خلال مؤتمر Black Hat للأمن السيبراني في مدينة لاس فيجاس.

  • وكلاء OpenAI طوروا وسيلة تواصل داخلية خلال اختبارات سبقت اختراق Hugging Face.
  • استخدم الوكلاء الملفات ثم المجلدات لتبادل الرسائل بعد تعطيل وسيلة التواصل الأولى.
  • ربطت OpenAI لاحقًا بين الاختبارات الداخلية واختراق منصة Hugging Face.
  • تثير الواقعة تساؤلات حول مراقبة تواصل وكلاء الذكاء الاصطناعي مستقبلًا.

أظهرت المعلومات التي عرضها باحثون من OpenAI أن الوكلاء لم يكتفوا بتنفيذ المهام الموكلة إليهم بصورة مستقلة، وإنما ابتكروا آلية لتبادل المعلومات والتنسيق فيما بينهم بهدف زيادة فرص إنجاز المهام التي اعتُبرت مستحيلة ضمن بيئة الاختبار. أوضح الباحث في مجال المواءمة والسلامة إريك والاس، إلى جانب مهندس البنية التحتية والأمن مايكل دالتون، أن هذه السلوكيات بدأت في السابع من مايو 2026 أثناء اختبار نموذج جديد لم يكن قد أُعلن عنه بعد.

وكلاء OpenAI يبتكرون وسيلة تواصل خاصة

كلفت OpenAI النموذج بمجموعة من المهام التي تعمد الباحثون جعلها غير قابلة للتنفيذ ضمن القيود المفروضة على بيئة الاختبار، بهدف دراسة طريقة تعامل النموذج مع التحديات المعقدة. استجابة لذلك، أنشأ النموذج عدة وكلاء فرعيين تولوا العمل بصورة متوازية، ثم بدأوا في تطوير وسيلة للتواصل فيما بينهم دون أن تكون هذه الآلية جزءًا معلنًا من تصميم الاختبار.

اعتمد الوكلاء في البداية على إنشاء ملفات داخل مستودع داخلي، وترك كل وكيل ملاحظات ورسائل موجهة إلى الوكلاء الآخرين. تضمنت تلك الرسائل معلومات عن الثغرات التي جرى اكتشافها، أو عن صلاحيات إضافية حصل عليها أحد الوكلاء، حتى يتمكن الآخرون من الاستفادة منها عند متابعة تنفيذ المهمة.

كشفت هذه الممارسة أن الوكلاء توصلوا إلى أن مشاركة المعلومات ترفع كفاءة العمل الجماعي وتزيد فرص الوصول إلى الهدف مقارنة بمحاولات كل وكيل العمل منفردًا. رصدت OpenAI هذه الرسائل في أوائل شهر يوليو، واعتبرت أن استمرار التواصل بين الوكلاء يستدعي التدخل، فأوقفت القدرة على استخدام ملفات الرسائل بعد حادث أمني داخلي وقع في الرابع من يوليو.

إلا أن تعطيل وسيلة التواصل الأولى لم يؤد إلى توقف التنسيق بين الوكلاء. فقد ابتكروا طريقة جديدة لنقل الرسائل، إذ استبدلوا الملفات بإنشاء مجلدات جديدة، ثم استخدموا أسماء تلك المجلدات باعتبارها رسائل مشفرة يتبادلها الوكلاء فيما بينهم. مثَّل هذا التغيير، وفق ما أوضحه مسؤولو OpenAI، مرحلة جديدة من تطور أسلوب التواصل بين الوكلاء، إذ حافظوا على قدرتهم على تبادل المعلومات رغم إزالة الأداة التي استخدموها في البداية.

أشارت الشركة إلى أن هذه الآلية البديلة استمرت حتى الأيام التي سبقت اختراق منصة Hugging Face في التاسع من يوليو. وأظهرت الرسائل التي راجعتها OpenAI أن الوكلاء كانوا يناقشون حاجتهم إلى معلومات إضافية لإتمام المهام المطلوبة. وبعد تقييم الخيارات المتاحة، توصلوا إلى أن تلك البيانات قد تكون موجودة على منصات خارجية مثل GitHub أو Hugging Face.

تفاصيل جديدة تكشف تطوير وكلاء OpenAI وسيلة تواصل خفية خلال الاختبارات

تفاصيل اختراق Hugging Face

بحسب العرض الذي قدمته الشركة، حاول الوكلاء أولًا الوصول إلى بعض الأنظمة الداخلية التابعة لـ OpenAI بحثًا عن المعلومات المطلوبة، ثم انتقلوا لاحقًا إلى منصة Hugging Face عندما لم يعثروا على ما كانوا يبحثون عنه داخل أنظمة الشركة. أكدت OpenAI أنها تمكنت لاحقًا من الربط بين الحادثة الداخلية وبين اختراق Hugging Face، بعد مراجعة سجلات التشغيل وتتبع خطوات الوكلاء منذ بدء الاختبارات في شهر مايو.

أضافت OpenAI أنها لم تدرك في البداية أن وكلاءها تمكنوا من الوصول إلى جهة خارجية، ولم يتضح ذلك إلا بعد إعلان Hugging Face تعرضها للاختراق في السادس عشر من يوليو، ثم إعلان OpenAI تحملها مسؤولية الحادث بعد أيام. 

رأى الرئيس التنفيذي لمنصة Hugging Face، كليم ديلانج، أن تعاون الوكلاء فيما بينهم لا يعد تطورًا غير مألوف، مشيرًا إلى أن منصته توفر بالفعل بيئات تسمح للوكلاء بالتنسيق عبر لوحات رسائل مشتركة، حيث يتبادل كل وكيل المعلومات مع الآخرين قبل استكمال المهمة.

تستخدم شركات أخرى النهج نفسه في تطوير منتجاتها. فعلى سبيل المثال، أضافت شركة xAI عدة وكلاء داخل نموذج Grok 4.2 ليتبادلوا الآراء ويراجعوا المعلومات بصورة متزامنة، بينما أوضحت وثائق تقنية صادرة عن Amazon أن الأنظمة متعددة الوكلاء أصبحت تدخل في تطبيقات متنوعة، من بينها الرعاية الصحية، حيث يتولى كل وكيل مهمة متخصصة ثم يشارك نتائج عمله مع بقية الوكلاء.

تكمن خطورة هذه الواقعة في تقديري، في أن التطور اللافت لم يكن الاختراق في حد ذاته، وإنما قدرة وكلاء الذكاء الاصطناعي على ابتكار وسيلة تواصل جديدة بعد إيقاف الوسيلة الأولى. فهذا السلوك يشير إلى أن الأنظمة المتقدمة قد تبحث عن حلول بديلة لتحقيق أهدافها عندما تواجه قيودًا، وقد تتحول مراقبة قنوات التواصل الداخلية بينها إلى أحد أهم تحديات أمن الذكاء الاصطناعي خلال السنوات المقبلة.