OpenAI تحذر من مخاطر سيبرانية عالية لنماذج الذكاء الاصطناعي الجديدة!

• OpenAI تحذر من مخاطر سيبرانية عالية لنماذج الذكاء الاصطناعي القادمة.
• الشركة تستثمر في أدوات الدفاع السيبراني ومراجعة الشيفرات وإصلاح الثغرات.
• تأسيس مجلس Frontier Risk Council لتقديم إرشادات استراتيجية في الأمن السيبراني.
• التنسيق بين شركات التقنية أصبح حاسماً لمواجهة تهديدات الذكاء الاصطناعي.

أعلنت شركة OpenAI أن نماذج الذكاء الاصطناعي القادمة قد تشكل مخاطر سيبرانية عالية نتيجة للتطور السريع لقدراتها. وأوضحت الشركة في منشور على مدونتها أن هذه النماذج قد تطور استغلالات صفرية اليوم تعمل عن بُعد ضد أنظمة محمية جيدًا أو تسهم في عمليات تسلل معقدة على مستوى الشركات أو المنشآت الصناعية تؤثر على الواقع الفعلي.

أشارت OpenAI كذلك إلى أنها تستثمر جهودًا كبيرة في تعزيز قدرات النماذج للقيام بمهام الدفاع السيبراني. وأوضحت أن ذلك يشمل تطوير أدوات تساعد فرق الأمن على تنفيذ عمليات مراجعة الشيفرات وإصلاح الثغرات بشكل أكثر سهولة وكفاءة. وأضافت الشركة أن تحسين النماذج لأغراض الدفاع أصبح محور اهتمام رئيسي مع تطور قدرات الذكاء الاصطناعي.

• اقرأ أيضًا: جهاز تنظيم الاتصالات يحذر من ثغرات متقدمة تستهدف الهواتف الذكية

OpenAI تتخذ إجراءات أمنية

لتقليل المخاطر السيبرانية، أكدت OpenAI أنها تعتمد على مجموعة من الإجراءات الأمنية تشمل ضبط مستويات الوصول، وتعزيز البنية التحتية، والتحكم في تدفق البيانات، ورصد النشاطات غير المعتادة. وتابعت أن هذه الإجراءات تمثل خط الدفاع الأول ضد أي استخدام محتمل للنماذج لأغراض ضارة.

أعلنت OpenAI أيضًا عن خطة لتقديم برنامج يسمح للمستخدمين المؤهلين والعملاء العاملين في مجال الدفاع السيبراني بالوصول إلى قدرات محسنة للنماذج على مستويات متفاوتة. وتهدف هذه الخطوة إلى تمكين المتخصصين في الأمن السيبراني من اختبار النماذج والاستفادة من قدراتها في حماية أنظمتهم وبيئاتهم العملية.

كما كشفت OpenAI عن تأسيس مجلس استشاري جديد يسمى Frontier Risk Council، يضم خبراء في الأمن السيبراني وممارسين أمنيين يعملون عن قرب مع فرق الشركة. وتركز المرحلة الأولى من المجلس على قضايا الأمن السيبراني، على أن يمتد نشاطه لاحقًا ليشمل مجالات أخرى ذات قدرات متقدمة في الذكاء الاصطناعي. ويهدف المجلس إلى تقديم إرشادات استراتيجية وممارسات فعالة لضمان الاستخدام الآمن للنماذج مع التوسع في قدراتها المستقبلية.

في هذا الصدد، أكدت OpenAI أن تطور النماذج الذكية يفرض تحديات جديدة، حيث يمكن لهذه النماذج، إذا لم يتم التحكم فيها بشكل مناسب، أن تُستغل في عمليات هجومية معقدة تستهدف البنية التحتية الحساسة أو الشركات الكبرى. وأشارت الشركة إلى أن الاستثمار في الأدوات الدفاعية والتعاون مع خبراء الأمن يمثلان عنصرين أساسيين لضمان استخدام الذكاء الاصطناعي بشكل مسؤول وآمن.

في الوقت ذاته، شددت OpenAI على أهمية الدمج بين تطوير قدرات النماذج الذكية وإجراءات الأمان، مشيرة إلى أن هذا الدمج يشمل كل شيء من المراقبة المستمرة للأنظمة إلى تحسين إجراءات التحكم في الوصول، بهدف تقليل أي خطر محتمل قبل حدوثه. وأوضحت الشركة أنها ستواصل تحديث إجراءاتها وسياساتها بما يتماشى مع التقدم السريع لتقنيات الذكاء الاصطناعي.

الأمن السيبراني إلى جانب التطوير

تمثل هذه التحركات جزءًا من استراتيجية أوسع تهدف إلى جعل الذكاء الاصطناعي أداة مساعدة في الأمن السيبراني، بحيث يمكن للنماذج تقديم دعم في عمليات التدقيق، وفحص الشيفرات، واكتشاف الثغرات قبل أن تُستغل، وبالتالي تعزيز قدرة الشركات والمؤسسات على حماية بياناتها وأنظمتها.

أكدت OpenAI أن هذا التوجه يعكس التزامها بمسؤولية تطوير الذكاء الاصطناعي بشكل آمن وفعال، مع تمكين المجتمع التقني من الاستفادة من هذه القدرات بطريقة مدروسة. وأضافت أن البرنامج الجديد والمجلس الاستشاري سيشكلان إطارًا لمراجعة السياسات والممارسات المتبعة، بما يعزز التعاون بين الباحثين والمطورين والأمنيين لتحقيق استخدام آمن للنماذج الذكية في مختلف المجالات.

تُظهر هذه المبادرات التزام OpenAI بالتعامل مع المخاطر السيبرانية الناتجة عن تقدم الذكاء الاصطناعي بطريقة استباقية، مع توفير أدوات وممارسات تعزز الأمان وتدعم الدفاعات الإلكترونية للمؤسسات. ويعكس تأسيس مجلس Frontier Risk Council وطرح برنامج الوصول الموسع مدى جدية الشركة في ضمان استخدام موثوق وآمن لنماذجها المتقدمة، بما يوازن بين الابتكار والتحكم في المخاطر.

رأي شخصي: من الملاحظ أن تحذيرات OpenAI تأتي بعد أيام من تحذيرات مماثلة صدرت عن شركتي آبل وجوجل، اللتين نبهتا المستخدمين حول ثغرات سيبرانية مشابهة قد تؤثر على أنظمة متعددة حول العالم. يؤكد ذلك أن التهديدات السيبرانية باتت أكثر تعقيدًا وتتطلب تعاونًا وثيقًا بين الشركات الكبرى لضمان حماية المستخدمين.

ويبدو أن التنسيق بين مطوري الذكاء الاصطناعي وشركات التقنية العالمية سيصبح عاملًا حاسمًا في مواجهة أي مخاطر مستقبلية، مع ضرورة النظر إلى الأمن السيبراني كعنصر أساسي لا يمكن تجاهله في تطوير التكنولوجيا الحديثة.