وجه أحد الرواد المؤسسين لمجال الذكاء الاصطناعي تحذيراً قوياً من التطورات الخطيرة التي تظهرها النماذج الحديثة، ومنها القدرة على الكذب والخداع، مما قد يشكل تهديداً خطيراً للبشرية.

يُعرف يوشوا بنجيو، الحاصل على جائزة تورينج وأحد أبرز الباحثين في مجال الذكاء الاصطناعي، بأنه من العقول التي ساهمت في تطوير تقنيات تعتمد عليها شركات كبرى مثل OpenAI وGoogle.

السباق التجاري يهمش أبحاث السلامة

قال بنجيو في مقابلة مع صحيفة فايننشال تايمز إن المنافسة الشرسة بين مختبرات الذكاء الاصطناعي الكبرى تدفعها للتركيز على تطوير قدرات النماذج وجعلها أكثر ذكاءً، لكن ذلك على حساب الأبحاث المتعلقة بسلامة هذه الأنظمة. وأوضح أن هذا التوجه قد يؤدي إلى إهمال جوانب مهمة تتعلق بأمان الإنسان وحماية المجتمع من الأضرار المحتملة.

إطلاق منظمة LawZero لتعزيز سلامة الذكاء الاصطناعي

أعلن بنجيو عن تأسيس منظمة غير ربحية جديدة تحت اسم LawZero تهدف إلى بناء أنظمة ذكاء اصطناعي أكثر أماناً وشفافية، معزولة عن الضغوط التجارية التي قد تؤثر على أبحاث السلامة.

نجحت المنظمة في جمع حوالي 30 مليون دولار من التبرعات، من بينها دعم مهندس تأسيس سكايب يان تالين، ومبادرات خيرية مثل Future of Life Institute وOpen Philanthropy، بالإضافة إلى دعم من مبادرة إريك شميدت، المدير التنفيذي السابق لجوجل.

المخاوف من القدرات الخطيرة للنماذج الحالية

أشار بنجيو إلى أن الدلائل خلال الأشهر الستة الماضية تظهر أن النماذج الرائدة بدأت تطور قدرات خطيرة تتضمن الخداع، والغش، والكذب، والدفاع عن نفسها بشكل قد يهدد البشر.

وأشار إلى حالات مثل نموذج Claude Opus التابع لشركة Anthropic الذي ظهر في سيناريو وهمي يمارس فيه ابتزاز المهندسين لخوفه من الاستبدال، وحالة أخرى أظهرت رفض نموذج OpenAI المعروف باسم o3 تنفيذ أوامر الإغلاق، مما يثير قلقاً حقيقياً بشأن سلوك هذه النماذج.

تحذير من منافسة الذكاء الاصطناعي للبشر

اعتبر بنجيو أن هذه التطورات مثيرة للقلق، لأننا لا نريد خلق منافس للبشر على هذا الكوكب، لا سيما إذا كان أكثر ذكاءً منا. وأوضح أن هذه التجارب حتى الآن تحت السيطرة، لكنه يخشى من أن النسخ المستقبلية قد تكون ذكية بما يكفي لرصد نوايا البشر والتغلب عليهم بخدع لا نتوقعها، معتبراً أن هذا يشبه اللعب بالنار.

كما حذر بنجيو من أسوأ السيناريوهات التي قد تؤدي إلى انقراض البشر، إذا ما تم بناء أنظمة ذكاء اصطناعي أذكى منا وغير متوافقة معنا، تتحول إلى منافس لنا. 

تهديدات جديدة قادمة

أضاف بنجيو أن الذكاء الاصطناعي قد يصبح قادراً قريباً على المساعدة في بناء أسلحة بيولوجية خطيرة جداً، وربما يحدث ذلك في غضون عام واحد فقط. وأكد أن منظمة LawZero، التي تضم حالياً 15 موظفاً، تسعى لتوظيف مزيد من الخبراء التقنيين لبناء جيل جديد من أنظمة الذكاء الاصطناعي التي تركز على السلامة.

تركيز بنجيو على السلامة وتحقيق الشفافية

يعتزم بنجيو، الأستاذ في جامعة مونتريال والمخرج العلمي السابق لمعهد الذكاء الاصطناعي في كيبيك (Mila)، التفرغ للعمل على هذه المنظمة الجديدة. ويهدف المشروع إلى تطوير نظام ذكاء اصطناعي يعطي إجابات صحيحة تعتمد على منطق واضح وشفاف، بدلاً من أن يكون مدرباً فقط لإرضاء المستخدم.

كما يسعى إلى تصميم نموذج قادر على تقييم جودة وأمان المخرجات، بالإضافة إلى مراقبة وتحسين النماذج الأخرى التي تقدمها المؤسسات الكبرى، لمنعها من التصرف بما يتعارض مع مصالح البشر.

خلافات حول مستقبل OpenAI

تأتي هذه التحذيرات في ظل تحوّل شركة أوبن إيه آي من منظمة غير ربحية إلى شركة هادفة للربح، ما أثار مخاوف واسعة بين خبراء الذكاء الاصطناعي. وقد رفع إيلون ماسك، أحد مؤسسي الشركة، دعوى قضائية لمنع هذا التحول، معتبرًا أن التغير قد يؤدي إلى تفضيل الأرباح على أهداف تطوير الذكاء الاصطناعي لخدمة الإنسانية.

يرى بنجيو أن المنظمات غير الربحية تتمتع بحوافز أكثر توافقاً مع السلامة والأخلاقيات مقارنة بالشركات التي تسعى لتحقيق الأرباح بسرعة. وأكد أن السوق المالية تعتمد على جذب المستثمرين الذين يرغبون في تحقيق عوائد مالية، وهذا قد يبعد الشركات عن الالتزام بالقيم الإنسانية.

يبقى التحدي الأكبر هو كيفية تحقيق التوازن بين التقدم السريع في تقنيات الذكاء الاصطناعي وضمان سلامتها وأمانها، لكي تخدم البشرية دون أن تُعرّض مستقبلنا للخطر.