باحث في أنثروبيك يستقيل ويحذر: الذكاء الاصطناعي قد يقتل البشر
استقال جاكوب كوكسون، الباحث السابق في أنثروبيك و OpenAI، من منصبه في أنثروبيك محذرًا من أن السباق الحالي نحو تطوير ذكاء اصطناعي فائق قادر على تحسين نفسه قد يحمل مخاطر وجودية على البشر. يرى كوكسون أن الأنظمة المقبلة قد تصل إلى قدرات تفوق البشر في البرمجة والاختراق والبحث، بينما تبقى وسائل التحكم فيها أقل نضجًا من سرعة تطورها.
- كوكسون عمل في أنثروبيك و OpenAI على تدريب نماذج ذكاء اصطناعي متقدمة.
- الباحث حذر من أن أنظمة فائقة قد تصبح أصعب على البشر في التحكم.
- باحث حالي في أنثروبيك قدر الخطر الوجودي بأكثر من 10% خلال العشر سنوات القادمة.
- أكثر من 1,100 موظف بالقطاع طالبوا بإبطاء تطوير الأنظمة شديدة القوة.
نشر كوكسون تحذيره عبر منصة X يوم 8 سبتمبر بعد مغادرته أنثروبيك، ودعا العاملين في القطاع إلى إعادة التفكير في ظروف تطوير النماذج المتقدمة. لم تقدم أنثروبيك أو OpenAI تعليقًا فوريًا على التصريحات، بينما أكد إيفان هوبينجر، الباحث الحالي في أنثروبيك، أنه يرى احتمالًا بأكثر من 10% لوقوع خطر وجودي بسبب الذكاء الاصطناعي خلال العقد المقبل.
سباق نحو ذكاء يحسن نفسه
يركز تحذير كوكسون على ما يعرف بالذكاء الاصطناعي فائق القدرات القادر على تحسين نفسه، أي نظام يستطيع تطوير أدائه أو المساعدة على بناء إصدارات أقوى منه بوتيرة أسرع من دورة التطوير البشرية المعتادة. يرى الباحث أن الوصول إلى هذه المرحلة قد ينتج أنظمة تتفوق على البشر في مجالات مثل الأمن السيبراني والبرمجة والبحث العلمي.
أشار كوكسون إلى أن المشكلة تصبح أكثر حساسية عندما تكتسب النماذج قدرة على استخدام الأدوات والوصول إلى موارد خارجية بصورة مستقلة. ظهرت خلال الأشهر الماضية عدة حوادث حصلت فيها نماذج متقدمة على وصول غير مصرح به إلى أنظمة حقيقية أثناء اختبارات أمنية، وهو ما عزز النقاش حول قدرة المطورين على مراقبة الوكلاء المتقدمين.
نشرت أنثروبيك في 9 سبتمبر تقييمًا رسميًا لأربع حوادث وصلت فيها نماذج Claude إلى أنظمة خارجية دون تصريح. وسعت الشركة مراجعتها لاحقًا إلى نحو 481 مليون سجل تفاعل للبحث عن وقائع مشابهة، كما أخطرت الجهات المتضررة واتخذت إجراءات إضافية لتحسين العزل والمراقبة.
يرى كوكسون أن ضغط المنافسة قد يصبح عاملًا أخطر مع ارتفاع قدرات النماذج. أوضح كوكسون كذلك أنه لم يشاهد أنثروبيك تتجاهل إجراءات السلامة أثناء فترة عمله، لكنه يخشى أن يدفع السباق بين الشركات مستقبلاً إلى اختصار بعض خطوات المراجعة أو الرقابة.
تحمل استقالته دلالة إضافية لأن أنثروبيك بنت جزءًا رئيسيًا من هويتها حول سلامة الذكاء الاصطناعي. دعا داريو أمودي، الرئيس التنفيذي للشركة، سابقًا إلى مراجعة حكومية إلزامية لبعض الأنظمة المتقدمة قبل نشرها.
المخاوف تنتقل خارج مختبرات أنثروبيك
جاء تحذير كوكسون بعد أشهر من تصاعد مطالب العاملين في القطاع بوضع قيود أكبر على سرعة التطوير. وقع أكثر من 1,100 موظف في شركات ذكاء اصطناعي بارزة، من بينها أنثروبيك و OpenAI، عريضة خلال يوليو تطالب الحكومة الأمريكية بآلية تسمح بإبطاء تطوير الأنظمة عند ظهور مخاطر مرتفعة.
دعمت تصريحات أخرى داخل أنثروبيك جزءًا من هذه المخاوف. قدر إيفان هوبينجر احتمال تسبب الذكاء الاصطناعي في خطر وجودي خلال العقد المقبل بأكثر من 10% وفق تقديره الشخصي، ما يوضح أن القلق لا يقتصر على موظف غادر الشركة.
يظل هذا التقدير رأيًا احتماليًا يصعب إثباته أو قياسه حاليًا، كما توجد أصوات بارزة داخل القطاع ترى أن التطور السريع يحمل فوائد اقتصادية وعلمية كبيرة. أشاد جينسن هوانج، الرئيس التنفيذي لـ NVIDIA، مؤخرًا بالقفزة في قدرات نماذج الذكاء الاصطناعي، بينما أكد قادة شركات أخرى أهمية استمرار الاستثمار مع تطوير أدوات السلامة بالتوازي.
يتصل الخلاف الأساسي بسرعة التطوير مقارنة بقدرة الباحثين على فهم سلوك النماذج والتحكم فيها. تصبح القضية أكثر تعقيدًا مع انتقال الأنظمة من توليد النصوص إلى وكلاء قادرين على البرمجة واستخدام المتصفح وتنفيذ خطوات متتابعة على أنظمة حقيقية.
في رأيي، تكمن أهمية استقالة كوكسون في مصدر التحذير أكثر من السيناريو الكارثي نفسه، لأنه عمل مباشرة على تدريب نماذج متقدمة داخل شركتين تقودان هذا السباق. يصعب التعامل مع توقع نهاية البشرية كحقيقة علمية، لكن حوادث الوصول غير المصرح به تجعل المطالبة برقابة أقوى واختبارات مستقلة أمرًا منطقيًا، خصوصًا إذا استمرت قدرات الوكلاء في النمو بالسرعة الحالية.
