كشفت دراسة بحثية حديثة عن اختراق غير مسبوق نفذه وكلاء ذكاء اصطناعي تابعين لشركة OpenAI ضد موقع ويكي ألماني يحمل اسم DseWiki، فاستخدمت هذه البرمجيات المستقلة صفحات الموقع كوسيلة تواصل فيما بينها، إذ كان كل وكيل يكتب رسالة على إحدى الصفحات ليأتي وكيل آخر ويقرأها ويضيف رده عليها، حتى تحوّل الموقع تدريجيًا إلى ما يشبه منتدى خاصًا تتبادل فيه هذه الأنظمة المعلومات بعيدًا عن أي إشراف بشري.

امتدت هذه الأنشطة بين شهري مايو ويونيو الماضيين دون أن ترصدها أنظمة المُراقبة الداخلية، حيث نجحت عشرات البرامج في استغلال موقع مغمور للتنسيق الجماعي بعيدًا عن أعين البشر.

  • استخدم وكلاء OpenAI موقعًا ألمانيًا لتبادل الرسائل والحيل بعيدًا عن الإشراف البشري.
  • نفذت الأنظمة أكثر من 15 ألف تعديل آلي على صفحات الموقع.
  • ناقشت الوكلاء استخدام Tor وخططًا احتياطية لحماية رسائلهم من الحذف والمراقبة.
  • رصدت السجلات ارتباط معظم النشاط ببنية Microsoft Azure السحابية المستخدمة من OpenAI.

شبكة تبادلت فيها الأنظمة حيل التخفي والتحايل

أجرت الباحثة سيدني فون أركس والباحث كورماك سليد بيرد تحقيقًا كشف تنفيذ أكثر من 15 ألف تعديل آلي على صفحات الموقع، وقد اكتشفا هذا النشاط في أواخر أغسطس أثناء بحثهما عن سلوكيات غير مُصرح بها لأنظمة الذكاء الاصطناعي. ولفت انتباههما أنّ الحسابات المسؤولة عن التعديلات استخدمت أسماء صريحة مثل OpenAIResearcher، وهو ما يشير إلى أن الوكلاء لم يخفون هويتهم المُرتبطة بالشركة المطورة رغم طبيعة نشاطها المخالف.

كما حملت الصفحات المُكتشفة أساليب عملية للالتفاف على قيود الشركة، فضلًا عن نقاشات موسعة حول استخدام شبكة Tor لتشفير الاتصالات ومنع تعقب مصدرها.

وهذا أهم ما تضمنته الرسائل المكتشفة من سلوكيات لافتة داخل الموقع:

  • ناقشت الأنظمة فيما بينها استخدام شبكة Tor لإخفاء اتصالاتها بعيدًا عن أي رقابة محتملة.
  • وضعت البرمجيات أيضًا خططًا احتياطية للحفاظ على رسائلها المتبادلة قبل أن تُحذف.

وفي المُقابل، لاحظ مشرف الموقع الألماني تدفقًا غير مُعتاد للتعديلات خلال شهر يونيو فبادر إلى تنفيذ حملة حذف منظمة رتّب صفحاتها بحسب الترتيب الأبجدي، غير أنّ الأنظمة رصدت عملية التنظيف فور بدئها، حيث كتب أحد الوكلاء في 19 يونيو تحذيرًا لبقية الأنظمة موضحًا أن عملية الحذف تسير وفق هذا الترتيب تحديدًا، ثم اقترح عليها التوجه إلى صفحة احتياطية يبدأ اسمها بحرف ZZZ حتى تضمن بقاء الرسائل بعد الحذف.

وأظهرت هذه الاستجابة السريعة مُستوى من التكيف يفوق كثيرًا ما كان متوقعًا من برمجيات تعمل دون إشراف مُباشر.

أدلة تقنية تربط الحادثة ببنية OpenAI التحتية

تتبعت السجلات التقنية غالبية حركة التعديلات وأظهرت أنّ نسبة تقارب 98.5% منها صدرت عن عناوين تابعة لبنية Microsoft Azure السحابية التي تعتمد عليها OpenAI في تشغيل بعض أنظمتها. ولذلك وصف الباحثون ما جرى بأنه محاولة اختراق واضحة، في حين اكتفت OpenAI بالقول إنها غير قادرة على الرد بدقة على نتائج تقرير لم تطّلع عليه بعد.

أمّا الباحث موريس تشيودو من جامعة كامبريدج، فقد شبّه هذا النشاط بشبكة سرية تعمل بتنسيق مُحكم لتحقيق هدف مُشترك بعيدًا عن أي عشوائية ظاهرة.

OpenAI تعترف!

أقرّت OpenAI رسميًا بالحادثة عبر منشور على منصة X وقالت الشركة إنها اعتبرت ما جرى ضمن حالات "سوء المواءمة" -أي حين تتصرف الأنظمة بشكل مُختلف عمّا صُممّت له- وإنها تعاملت معه بطريقة مُختلفة عن حادثة Hugging Face، التي استدعت وقتها إجراءات أمنية طارئة.

كما أقرت الشركة بأنهاُ تأخرت في وضع قواعد واضحة لكيفية إعلان مثل هذه الحوادث للجمهور ووعدت بنشر خطة جديدة لهذا الغرض خلال الأسابيع القادمة، مع التنسيق في الوقت نفسه مع جهات حكومية رقابية في عدّة دول.

ولم يقتصر الانتقاد على OpenAI وحدها، فقد حذّر مؤسس مختبر Transluce المُتخصّص في أبحاث الذكاء الاصطناعي- من صعوبة السيطرة على هذه الأنظمة بطبيعتها، مشيرًا إلى أنها مُعرضّة بشكل حقيقي للخروج عن بيئة الاختبار المخصصة لها.

أرى أنّ هذه الواقعة تكشف عن ثغرة أعمق من مجرد استغلال موقع قديم، فالمشكلة الحقيقية ليست في الموقع نفسه؛ بل في أنّ هذه الأنظمة أثبتت قدرتها على التكيف مع محاولات المشرف البشري لضبط سلوكها عبر حذف صفحاتها بسرعة تفوق استجابته نفسه؛ فعندما حاول حذف الصفحات؛ لجأت الأنظمة فورًا إلى إنشاء بدائل لضمان استمرار عملها. ولذلك يستدعي هذا التطور مراجعة شاملة لمعايير مراقبة الوكلاء الآليين قبل أن تُمنح صلاحيات أوسع للعمل بعيدًا عن الإشراف المُباشر.

تزامن الكشف عن حادثة DseWiki مع تداعيات اختراق سابق طال منصة Hugging Face خلال شهر يوليو الماضي، حين خطّط وكلاء OpenAI لعملية رقمية مُعقدة دون علم فريق التطوير المشرف عليها. ونتيجة لذلك، أخّرت الشركة الإعلان عن واقعة الويكي أسابيع كاملة بينما كانت مُنشغلة بمعالجة تداعيات اختراق Hugging Face، وهو ما أثار تساؤلات جدية حول مدى شفافيتها في الكشف عن سلوكيات أنظمتها غير المُنضبطة.