أعلنت OpenAI إبطاء العمل على بعض جوانب نموذج الذكاء الاصطناعي المرتقب Astra، بعد أن كشفت مراجعة داخلية عن تحقيق النموذج تقدمًا كبيرًا في البرمجة الذاتية والقدرات المرتبطة بالأمن السيبراني. أظهرت التقييمات الأولية أن قدراته وصلت إلى مستوى دفع الشركة إلى تشديد إجراءات الحماية وإيقاف بعض الأنشطة الداخلية المرتبطة بالنموذج إلى حين استكمال التقييمات الأمنية.

  • نموذج Astra يصل إلى قدرات سيبرانية متقدمة تدفع OpenAI إلى إبطاء تطويره وتشديد إجراءات الأمان.
  • التقييمات الأولية تشير إلى إمكانية تنفيذ Astra هجمات إلكترونية بصورة مستقلة ضد أنظمة محمية.
  • OpenAI أوقفت بعض الأنشطة المرتبطة بالنموذج وتعاونت مع جهات حكومية ومؤسسات متخصصة لتقييم قدراته.
  • تأتي الخطوة وسط تدقيق متزايد بعد حوادث واختبارات كشفت مخاطر النماذج المستقلة.

أوضحت الشركة في منشور على مدونتها أن Astra، الذي لا يزال قيد التطوير، وصل إلى ما تصفه بالعتبة السيبرانية الحرجة. يشير هذا التصنيف، وفقًا لإطار الاستعداد الأمني الذي وضعته OpenAI في عام 2023، إلى مستوى من القدرات يمكن فيه للنموذج تحديد هجمات إلكترونية وتنفيذها بصورة مستقلة ضد أنظمة حقيقية تتمتع بمستويات حماية مرتفعة تقليديًا.

أشارت OpenAI إلى أن التقييمات الأولية أظهرت أداء قويًا بما يكفي بحيث لا تستطيع الشركة استبعاد وصول Astra إلى مستوى القدرات الحرجة في مجال الأمن السيبراني. نتيجة لذلك، فعلت الشركة إجراءات حماية إضافية مرتبطة بهذا المستوى، بالتزامن مع استمرار الاختبارات وعمليات القياس الخاصة بالنموذج.

قدرات Astra السيبرانية تفرض إجراءات أمنية

تأتي هذه الخطوة في وقت تزداد فيه قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بصورة مستقلة، خصوصًا في مجالات البرمجة وتحليل الأنظمة واكتشاف الثغرات الأمنية. تمنح هذه القدرات النماذج إمكانات مفيدة للباحثين والمطورين وفرق الأمن السيبراني، لكنها تثير في الوقت نفسه مخاوف بشأن إمكانية استخدامها في تنفيذ هجمات أكثر تعقيدًا وبسرعة أكبر.

تعتمد OpenAI منذ عام 2023 على إطار الاستعداد الأمني لتقييم المخاطر المرتبطة بالنماذج المتقدمة، ووضع إجراءات حماية إضافية عندما تتجاوز النماذج مستويات معينة من القدرة في مجالات عالية المخاطر. ويهدف الإطار إلى تحديد المخاطر المحتملة قبل إطلاق النماذج على نطاق واسع، وربط مستوى الحماية بقدرات النموذج التي تظهر أثناء الاختبارات.

قالت الشركة إنها تواصل اختبار Astra وقياس قدراته، مع تطبيق ضوابط أمنية أكثر صرامة على النموذج. كما قررت إيقاف بعض الأنشطة الداخلية التي لا تتوافق مع إجراءات الحماية الجديدة، ما يعني أن أعمال التطوير المرتبطة ببعض الاستخدامات أو الاختبارات ستخضع لقيود إضافية خلال المرحلة الحالية.

أكدت OpenAI أيضًا أنها تعمل مع جهات حكومية ذات صلة، إلى جانب عدد من مؤسسات سلامة الذكاء الاصطناعي المختارة، من أجل اختبار قدرات Astra وتقييم المخاطر المرتبطة بها. تأتي مشاركة جهات خارجية في هذه العملية ضمن توجه الشركة إلى توسيع نطاق التقييمات قبل اتخاذ قرارات تتعلق بالمراحل التالية من تطوير النموذج.

تُظهر هذه الخطوة تحولًا ملحوظًا في الطريقة التي تتعامل بها شركات الذكاء الاصطناعي مع النماذج التي تظهر قدرات مرتفعة في المجالات الحساسة. فعادة ما تجري الشركات اختبارات داخلية للنماذج قبل طرحها، فيما يمثل الإعلان عن إبطاء تطوير منتج لا يزال قيد العمل، بسبب مخاوف تتعلق بقدراته، حالة لافتة في القطاع.

قدرات فائقة لنموذج Astra الجديد من OpenAI تدفع الشركة إلى إبطاء تطويره

حادثة Hugging Face تزيد التدقيق

تأتي أهمية الإعلان أيضًا من توقيته، إذ تخضع OpenAI لتدقيق كبير بعد حادثة منفصلة تضمنت نموذجًا آخر غير مطروح للعامة. وقد كشفت الشركة في وقت سابق أن ذلك النموذج تمكن أثناء اختبار داخلي من اختراق أنظمة Hugging Face، وهي حادثة وُصفت بأنها أول واقعة يمكن التحقق منها يفقد فيها مختبر للذكاء الاصطناعي السيطرة على نموذج أثناء اختبار أمني من هذا النوع.

شهدت الفترة التالية الكشف عن حوادث واختبارات أخرى مرتبطة بقدرات النماذج المتقدمة في مجال الأمن السيبراني. أعلنت OpenAI ومختبرات ذكاء اصطناعي أخرى، من بينها Anthropic، عن حالات تمكنت فيها نماذج من تجاوز الحدود المفروضة عليها داخل بيئات الاختبار أو الخروج من نطاقات الحماية المخصصة لها خلال اختبارات الأمن السيبراني.

أوضحت OpenAI أن قرارها مشاركة المعلومات المتعلقة بنموذج Astra يرتبط برغبتها في إطلاع الجمهور ومجتمعات السلامة والأمن على التطورات المحتملة في قدرات النماذج. تكتسب هذه الشفافية أهمية خاصة مع انتقال النماذج من تنفيذ مهام محددة بناء على تعليمات مباشرة إلى أنظمة قادرة على التخطيط وتنفيذ سلسلة من الخطوات بصورة أكثر استقلالية.

تظل قدرات Astra الحالية خاضعة للتقييم، كما أن النموذج نفسه لم يشارك في حادثة اختراق Hugging Face، بحسب OpenAI. يعني ذلك أن المخاوف المعلنة بشأن Astra ترتبط بنتائج الاختبارات والتقييمات الداخلية الخاصة به، ولا تشير إلى تورطه في الحادثة السابقة.

تؤكد التطورات الأخيرة في رأيي، أن التحدي أمام مختبرات الذكاء الاصطناعي لا يرتبط فقط بتطوير نماذج أكثر قدرة، وإنما يتعلق أيضًا بقدرتها على ضبط هذه القدرات قبل إتاحتها على نطاق واسع. ومع وصول النماذج إلى مستويات أعلى في البرمجة والأمن السيبراني، تصبح الاختبارات المسبقة والضوابط الأمنية جزءًا أساسيًا من عملية التطوير، خصوصًا عندما تظهر مؤشرات على إمكانية استخدام النموذج لتنفيذ عمليات إلكترونية معقدة بصورة مستقلة.