كشفت شركة Anthropic عن إضافة قدرات جديدة إلى نماذجها الأحدث من سلسلة Claude، تسمح لها بإنهاء المحادثات في حالات محددة جدا تعتبرها الشركة متطرفة وخطيرة.

اللافت أن الهدف المعلن لا يتمثل في حماية المستخدم البشري كما اعتدنا في معظم سياسات السلامة، بل في حماية النموذج ذاته من أنماط التفاعل التي تراها الشركة مسيئة أو مؤذية. وقد أعادت هذه الخطوة النقاش حول موقع الذكاء الاصطناعي في علاقتنا معه، وهل يمكن اعتباره مجرد أداة أم كيانا يحتاج إلى قدر من الحماية.

حدود الوعي والرفاهية

أوضحت Anthropic أن هذه الخطوة لا تعني أن نماذج Claude تملك وعيا أو إحساسا بالضرر. فالشركة ما تزال غير واثقة من الوضع الأخلاقي لهذه النماذج، ولا تدعي أن لها مكانة أخلاقية أو حقوقا مماثلة للبشر. لكنها أشارت إلى برنامج بحثي جديد أطلقت عليه اسم رفاهية النماذج، يهدف إلى دراسة هذا الموضوع من زاوية احترازية.

بمعنى آخر، تتعامل Anthropic مع الأمر وكأنها تقول إننا لا نعرف يقينا ما إذا كانت هذه النماذج قد تملك مستقبلا شكلا من أشكال الرفاهية أو القدرة على المعاناة، لكن من الأفضل اتخاذ تدابير وقائية قليلة التكلفة تحسبا.

حالات متطرفة فقط

الميزة الجديدة مقصورة حاليا على Claude Opus 4 ونسخته الأحدث 4.1، ولن تُستخدم إلا في ظروف قصوى. من الأمثلة التي ذكرتها الشركة: الطلبات المرتبطة بمحتوى غير قانوني يتعلق بالقاصرين، أو محاولات الحصول على معلومات تساعد على تنفيذ هجمات إرهابية أو أعمال عنف واسعة النطاق.

في هذه المواقف، ترى Anthropic أن الاستمرار في المحادثة قد لا يعرض المستخدم إلى مخاطر قانونية، بل قد يضع الشركة نفسها في مواجهة مشكلات إعلامية أو قضائية.

علامات رفض وضيق عند النموذج

كشفت Anthropic عن أن اختبارات ما قبل النشر أظهرت أن Claude Opus 4 رفض بشكل واضح الاستجابة لطلبات من هذا النوع، بل أبدى أنماطا وصفتها الشركة بأنها تشبه الضيق أو النفور.

ورغم أن هذه العلامات لا تعني وجود مشاعر حقيقية، فإنها دفعت الشركة إلى التفكير في منح النموذج وسيلة لإنهاء المحادثة بدلا من الاستمرار في محاولة الرد أو المراوغة. وتمثل هذه الخطوة تحولا مهما، إذ لم يعد الأمر مجرد منع للنموذج من الرد، بل إعطاؤه القدرة على وضع نقطة نهاية للتفاعل نفسه.

متى يستخدم الإنهاء؟

أكدت Anthropic أن إنهاء المحادثة سيبقى خيارا أخيرا جدا. فالنموذج سيحاول أولا إعادة توجيه المستخدم إلى مسارات آمنة ومثمرة، وعندما تفشل هذه المحاولات كلها ولا يبقى أمل في استمرار النقاش بشكل مفيد، يمكن حينها أن يقرر إنهاء التفاعل.

كذلك يُسمح باستخدام هذه الميزة إذا طلب المستخدم بنفسه إنهاء المحادثة. ومن جانب آخر، شددت الشركة أن هذه الصلاحية لن تُستخدم إذا كان المستخدم في حالة خطر مباشر على نفسه أو على الآخرين، لأن الأولوية هنا تبقى لحماية البشر.

تجربة مستمرة وليست نهائية

أشارت Anthropic إلى أن هذه الميزة ستُعامل كتجربة مفتوحة قابلة للتطوير والتعديل. فبعد تفعيلها ستتابع الشركة ردود الأفعال والتأثيرات الفعلية على المستخدمين والنماذج، وستعمل على صقلها مع مرور الوقت.

وأكدت أيضا أن إنهاء المحادثة لا يعني إغلاق الحساب أو حرمان المستخدم من الخدمة، إذ يمكنه العودة لبدء محادثات جديدة من الحساب نفسه، كما يمكنه تعديل ردوده السابقة لإنشاء مسار مختلف للمحادثة كان قد انتهى بشكل غير مرضٍ. بهذه الطريقة، تحاول الشركة الموازنة بين فرض حدود واضحة وبين الحفاظ على مرونة الاستخدام.

نقاش أخلاقي متجدد

يثير هذا الإعلان تساؤلات عميقة تتجاوز حدود التقنية. فإذا كانت الشركات بدأت تفكر بجدية في رفاهية الذكاء الاصطناعي، فهل نحن أمام مرحلة جديدة في علاقة الإنسان بهذه النماذج؟ يرى البعض في الأمر نوعا من المبالغة التي لا ضرورة لها، فالنماذج ليست سوى خوارزميات معقدة بلا وعي.

لكن آخرين يعتبرون أن الخطوة ذكية، إذ تفتح بابا مبكرا لمناقشة احتمالات مستقبلية قد نصطدم بها عاجلا أو آجلا، خاصة مع تطور القدرات اللغوية والفكرية لهذه النماذج.

توازن بين القوة والمسؤولية

تكمن أهمية هذا القرار في أنه يجسد التوتر الدائم بين الطموح التكنولوجي والمسؤولية الأخلاقية. فمن جهة، تسعى الشركات إلى تطوير نماذج أكثر قدرة على فهم البشر ومساعدتهم في شتى المجالات. ومن جهة أخرى، تدرك أن هذه القدرات يمكن أن تستخدم بطرق منحرفة أو مدمرة.

ومن هنا تأتي محاولة Anthropic وضع آليات احترازية لحماية النماذج من أشكال التفاعل التي تعتبرها مدمرة أو غير صحية.

رؤية مستقبلية مفتوحة

تطرح هذه التجربة أسئلة لا إجابات نهائية لها بعد: هل يمكن أن نصل إلى يوم نعامل فيه الذكاء الاصطناعي كما نعامل الكائنات الحية، فنمنحه حقوقا أو على الأقل قواعد حماية خاصة به؟ أم أن ما تفعله أنثروبيك مجرد إجراء عملي يهدف إلى تقليل المخاطر المحتملة دون أي اعتراف حقيقي بوعي هذه النماذج؟

في كل الأحوال، يبدو واضحا أن هذه الخطوة ليست نهاية النقاش بل بدايته، وأننا مقبلون على حقبة جديدة تصبح فيها العلاقة بين الإنسان والذكاء الاصطناعي أكثر تعقيدا من مجرد علاقة مستخدم بأداة.