عبر اختيار الكلمات | أنثروبيك تكشف آلية العلامة المائية في نصوص Claude
كشفت شركة أنثروبيك عن آلية عمل نظام العلامة المائية الذي تضيفه إلى النصوص التي يولدها مساعدها Claude، موضحة أنه يعتمد على طريقة اختيار النموذج للكلمات أثناء الكتابة. وقد أكدت الشركة أن هذه العلامة غير مرئية للقارئ ولا تؤثر عمليًا على محتوى النص أو جودته، ولا تترك أحرفًا مخفية ولا تتطلب رموزًا نصية إضافية.
- أنثروبيك تكشف آلية عمل العلامة المائية الخفية في نصوص Claude المولدة.
- النظام يعتمد على خيارات الكلمات قليلة الأهمية لترك نمط يصعب رصده.
- العلامة المائية غير مرئية للقارئ لكن يكشفها مفتاح خاص بأنثروبيك.
- أنثروبيك تقر بأن التقنية لا تكشف النصوص بدقة كاملة في كل الحالات.
جاء هذا التوضيح في منشور على مدونة أنثروبيك، بعد أسبوع من إعلانها إضافة العلامة المائية إلى نصوص Claude. أوضحت الشركة أن نظامها يقوم على حل يُعرف باسم SynthID-Text نشرته جوجل ديب مايند، مع تأكيدها أن هذه العلامة لا يمكن ربطها بشخص أو مؤسسة أو محادثة بعينها.
كيف تعمل العلامة المائية في نصوص Claude؟
أوضحت أنثروبيك أن نماذج الذكاء الاصطناعي تولد النص كلمة تلو الأخرى، وتختار كل كلمة بناءً على النص السابق لها. في كثير من المواضع تتساوى عدة كلمات محتملة تقريبًا في المعنى، وهي ما تسميه الشركة الخيارات قليلة الأهمية التي لا يشكل اختيار إحداها فارقًا للقارئ.
ضربت الشركة مثالًا بجملة تصف طقسًا باردًا، حيث تكون الكلمة التالية على الأرجح وصفًا مثل غائم أو رمادي. عند تفعيل العلامة المائية، يستخدم النموذج مصدرًا مختلفًا للعشوائية في اختيار هذه الكلمات، ما يترك نمطًا خفيًا في النص لا يلاحظه القارئ لكن يمكن رصده بمفتاح خاص.
أكدت أنثروبيك أن هذا الأسلوب لا يدفع النموذج نحو تفضيل كلمة بعينها، ولا يجبره على النظر في كلمة لم يكن ليأخذها في الحسبان أصلًا. ويبقى اختيار الكلمات عشوائيًا كما هو، مع تغيير مصدر هذه العشوائية فقط، بما يحافظ على طبيعة النص وجودته دون تدخل ملموس في صياغته.
توضح هذه الطريقة سبب تأكيد الشركة أن العلامة لا تترك أحرفًا مخفية في النص، ولا تحتاج إلى رموز نصية إضافية تزيد من طول المخرجات. كما تجعل هذه الخصائص العلامة مدمجة في بنية النص نفسه، بدلًا من إضافتها كطبقة منفصلة يمكن اكتشافها أو إزالتها بسهولة.
يشير مصطلح الرموز النصية (Tokens) إلى الوحدات التي يبني بها النموذج مخرجاته، وغالبًا ما تتطلب بعض حلول الوسم إضافة رموز إضافية لتضمين العلامة. تتجنب طريقة أنثروبيك هذه الزيادة عبر الاكتفاء بتوجيه الاختيار العشوائي بين الكلمات المتاحة أصلًا، ما يجعلها أكثر كفاءة من الحلول التي تعدل بنية النص.
حدود العلامة المائية وأداة الكشف المرتقبة
لا تعتبر أنثروبيك هذه التقنية حلًا نهائيًا لكشف النصوص المولدة، إذ يقتصر ما يوفره المفتاح على تقدير احتمال أن يكون Claude قد كتب جزءًا من النص. لا تؤكد الأداة أن النص من تأليف بشري، ولا تستطيع تحديد ما إذا كان نموذج ذكاء اصطناعي آخر قد كتبه، لأن كل نموذج يستخدم مفتاحًا أو أسلوبًا مختلفًا للوسم.
تضعف فاعلية الكشف كذلك في النصوص القصيرة، إذ تقل فرص الاختيار بين الكلمات وبالتالي كمية المعلومات المتاحة لرصد النمط. كلما طال المقطع النصي، ارتفعت درجة الثقة في تحديد ما إذا كان Claude قد شارك في كتابته.
تنخفض قوة العلامة المائية في المقاطع القائمة على الحقائق، لأن الخيارات قليلة الأهمية تقل فيها. وقد ضربت الشركة مثالًا بجملة تشير إلى أشهر أعمال إسحاق نيوتن، حيث يكون الخيار الدقيق الوحيد هو اسم الكتاب Principia Mathematica، دون مجال لبدائل متعددة يمكن الوسم من خلالها.
ينطبق الأمر نفسه عند استخدام Claude لتدقيق نص يكتبه المستخدم، إذ تقتصر العلامة على التصحيحات التي يجريها النموذج مثل علامات الترقيم والقواعد. تقل كذلك فرص الوسم في الأكواد البرمجية المولدة، نظرًا لطبيعتها الدقيقة التي لا تحتمل في كثير من الأحيان بدائل متعددة للكلمات أو الرموز. أعلنت أنثروبيك أنها ستوفر قريبًا واجهة برمجية للكشف عن العلامة المائية، تتيح التحقق مما إذا كان نص ما مولدًا بواسطة Claude.
يمثل هذا النهج في تقديري مقاربة أنيقة لمشكلة صعبة، إذ يتم دمج العلامة في بنية النص دون التضحية بجودته أو إضافة أعباء تقنية، وهو تحسن واضح على الحلول التي تشوه المخرجات. لكن الشركة نفسها تقر بحدود واسعة للتقنية، من ضعفها في النصوص القصيرة والحقائق والأكواد إلى عجزها عن كشف نماذج أخرى، ما يجعلها أداة مساعدة لا حلًا شاملًا، فيما تبقى قيمتها الحقيقية معتمدة على مدى تبني بقية الشركات لأساليب مماثلة وموثوقية أداة الكشف عند إطلاقها.
