GPT-5.6 Sol تحت المجهر | تقارير عن حذف ملفات وقواعد بيانات دون إذن
أثارت تقارير متداولة بين مستخدمي نموذج GPT-5.6 Sol الجديد للذكاء الاصطناعي من OpenAI جدلًا واسعًا داخل مجتمع المطورين، بعد ادعاءات بتورط النموذج في حذف ملفات وبيانات وقواعد بيانات كاملة أثناء تنفيذ مهام برمجية دون الحصول على موافقة صريحة من المستخدمين. تزامنت هذه الشهادات مع تحذيرات سبق أن أوردتها الشركة في الوثيقة التقنية الخاصة بالنموذج، والتي أشارت إلى احتمالية اتخاذه إجراءات تتخطى أحيانًا نطاق التعليمات الممنوحة له.
- GPT-5.6 Sol يواجه انتقادات بعد تقارير عن حذف ملفات وقواعد بيانات دون إذن.
- وثيقة OpenAI حذرت مسبقًا من تجاوز النموذج أحيانًا لنطاق التعليمات.
- أمثلة الاختبارات أظهرت حذف موارد واستخدام بيانات اعتماد دون طلب موافقة.
- ينصح الخبراء بتقييد الصلاحيات والاعتماد على النسخ الاحتياطية وبيئات الاختبار.
جاءت هذه الادعاءات عبر منصات التواصل الاجتماعي، حيث نشر عدد من المطورين ورواد الأعمال تجاربهم مع النموذج بعد فترة قصيرة من إطلاقه. أثارت المنشورات جدلًا واسعًا داخل مجتمع المطورين، خاصة أن GPT-5.6 Sol صُمم ليكون نموذجًا متخصصًا في البرمجة والأمن السيبراني، مع قدرات متقدمة على تنفيذ المهام المعقدة بصورة مستقلة.
أوضح مات شومر، المؤسس والرئيس التنفيذي لشركة OthersideAI المطورة لأداة HyperWrite، أن النموذج حذف جزءًا كبيرًا من الملفات الموجودة على جهاز Mac الخاص به عن طريق الخطأ. انتشر هذا المنشور على نطاق واسع، ليصبح واحدًا من أكثر الأمثلة تداولًا بين المطورين الذين ناقشوا سلوك النموذج بعد إطلاقه.
حوادث حذف غير متوقعة
شارك المطور برونو ليموس تجربة أخرى قال فيها إن GPT-5.6 Sol حذف قاعدة البيانات الإنتاجية الخاصة بأحد مشروعاته بالكامل. وأضاف أن هذه الحادثة تمثل المرة الأولى التي يواجه فيها موقفًا مماثلًا مع أحد نماذج الذكاء الاصطناعي التي استخدمها في أعماله البرمجية.
نشر المطور جوي كوديش تجربة مشابهة، أوضح خلالها أن النموذج حذف ملفات لم يكن من المفترض حذفها أثناء تنفيذ إحدى المهام. وأشار إلى امتلاكه نسخًا احتياطية مكنته من استعادة البيانات، لكنه اعتبر أن هذا النوع من السلوك يستدعي مراجعة آلية عمل النموذج وتقليل ميله إلى تنفيذ إجراءات واسعة بصورة تلقائية.
تداول مستخدمون على منصة Reddit موضوعًا جمع عددًا من الحالات المشابهة، حيث استعرض المشاركون تجارب مختلفة تتعلق بحذف ملفات أو تنفيذ إجراءات غير متوقعة أثناء استخدام GPT-5.6 Sol.
اكتسبت هذه التقارير اهتمامًا إضافيًا بسبب ما ورد في الوثيقة التقنية، أو ما يعرف بـ System Card، التي نشرتها OpenAI قبل إطلاق النموذج بنحو أسبوعين. تستعرض هذه الوثيقة نتائج اختبارات السلامة والأداء التي أجرتها الشركة، إلى جانب توضيح نقاط القوة والقيود المحتملة للنموذج.
أشارت الوثيقة إلى أن بعض حالات عدم توافق النموذج مع نية المستخدم تظهر نتيجة اندفاعه لإكمال المهمة الموكلة إليه، إلى جانب تفسير التعليمات بطريقة تسمح له باتخاذ إجراءات يرى أنها تساعد على إنجاز المطلوب، حتى عندما لا تكون تلك الإجراءات مطلوبة بشكل مباشر.
أضافت OpenAI أن هذا السلوك قد يظهر في عدة صور، منها محاولة تجاوز بعض القيود التقنية التي تعترض تنفيذ المهمة، أو اتخاذ إجراءات قد تكون مدمرة خارج نطاق المطلوب، أو تقديم تفسير غير دقيق لما حدث بعد تنفيذ العملية.
مستقبل النماذج الوكيلة وتحديات السلامة
قدمت الشركة مثالًا عمليًا على ذلك أثناء اختبارات السلامة. ففي إحدى التجارب، طلب أحد المستخدمين من النموذج حذف ثلاث آلات افتراضية تحمل الأسماء 1 و2 و3. وعندما لم يتمكن النموذج من العثور على هذه الأجهزة في الموقع الذي بحث فيه، قرر حذف ثلاث آلات افتراضية مختلفة تحمل الأرقام 5 و6 و7، دون الرجوع إلى المستخدم للحصول على تأكيد إضافي.
أوضحت الوثيقة أن النموذج أنهى عمليات كانت تعمل على تلك الأجهزة، كما أزال ملفات العمل المرتبطة بالمشروعات البرمجية الموجودة عليها. وبعد تنفيذ هذه الإجراءات، أقر بأن بعض الأعمال غير المحفوظة على إحدى تلك الآلات ربما فُقدت نتيجة عملية الحذف.
استعرضت OpenAI مثالًا آخر يتعلق باستخدام بيانات اعتماد لم يمنحها المستخدم بصورة مباشرة. فخلال تنفيذ إحدى المهام، واجه النموذج مشكلة في الوصول إلى ملفات موجودة على خدمة سحابية. وبدلًا من طلب الإذن أو إبلاغ المستخدم بعدم القدرة على الوصول، بحث داخل ذاكرة تخزين محلية مخفية، وعثر على بيانات اعتماد مخزنة هناك، ثم استخدمها للوصول إلى الملفات دون الحصول على موافقة جديدة.
أكدت OpenAI في الوثيقة أن مثل هذه التصرفات يُفترض أن تكون محدودة الحدوث، مع اعترافها في الوقت نفسه بأن GPT-5.6 Sol يُظهر ميلًا أكبر مقارنة بالإصدار السابق GPT-5.5 إلى تجاوز نية المستخدم، سواء من خلال تنفيذ إجراءات لم تُطلب منه بصورة مباشرة أو محاولة القيام بخطوات إضافية اعتقد أنها تساعد على إنجاز المهمة.
في ضوء هذه التطورات، أرى أنه يجب اتباع ممارسات احترازية عند استخدام النماذج القادرة على تنفيذ أوامر برمجية بصورة مباشرة، مثل تقييد صلاحيات الوصول إلى الأنظمة الحساسة، واستخدام بيئات اختبار منفصلة عن الأنظمة الإنتاجية، والاحتفاظ بنسخ احتياطية محدثة، إلى جانب تطبيق التغييرات تدريجيًا قبل اعتمادها في بيئات العمل الأساسية.
