أنثروبيك ترصد استخدام Claude في أبحاث بيولوجية عالية الخطورة
كشفت أنثروبيك عن خمس حالات رصدت فيها استخدام نماذج الذكاء الاصطناعي Claude ضمن أبحاث بيولوجية عالية الحساسية يمكن أن تحمل استخدامات مفيدة أو خطرة في الوقت نفسه. شملت الحالات باحثين عاملين داخل مؤسسات علمية حقيقية، فيما أكدت الشركة أنها لم تثبت وجود نية للإضرار، لكنها حظرت الحسابات المرتبطة بالأنشطة التي خالفت سياساتها وبدأت تعزيز وسائل المراقبة والحماية.
- أنثروبيك وثقت خمس حالات لاستخدام Claude في أبحاث بيولوجية حساسة.
- بعض الباحثين حاولوا تجاوز القيود الجغرافية وأنظمة الحماية الخاصة بالنماذج.
- الشركة لم تؤكد وجود نية خبيثة لدى العلماء المرتبطين بهذه الحالات.
- الحسابات المخالفة تم حظرها مع مشاركة بعض المعلومات مع الجهات المختصة.
بحسب تقرير التهديدات الصادر عن أنثروبيك، شملت التحقيقات نشاطًا رُصد بين ديسمبر 2025 وأغسطس 2026. أوضحت الشركة أن الفصل بين البحث العلمي المشروع والعمل الذي قد يدعم تطوير سلاح بيولوجي يمثل تحديًا كبيرًا، لأن التقنيات والأساليب نفسها يمكن استخدامها لتطوير أدوية ولقاحات أو لأغراض أكثر خطورة.
خمس حالات تضع الحماية أمام اختبار صعب
ركزت إحدى الحالات على باحثين كانوا يعملون ضمن برنامج علمي مرتبط بجهة ذات صلة بالقطاع العسكري، حيث استخدموا نموذج Claude للمساعدة في إعداد وتحرير مواد بحثية تتعلق بدراسة فيروسية حساسة. رصدت أنظمة أنثروبيك الطلبات ورفضت أجزاء منها بعدما صنفتها ضمن الأبحاث البيولوجية عالية الخطورة.
ظهرت مشكلة إضافية عندما حاولت منصة وسيطة توجيه بعض الطلبات المرفوضة إلى نماذج أخرى ذات قيود أقل. كشفت أنثروبيك أيضًا عن محاولات لتجاوز القيود الجغرافية والوصول إلى خدماتها من مناطق غير مدعومة، ما دفعها إلى حظر الحسابات المرتبطة بالنشاط والتعاون مع جهات خارجية لتعطيل بعض قنوات الوصول.
تناولت حالة أخرى باحثًا أمضى أسابيع في استخدام نماذج أضعف من Claude للمساعدة في التخطيط لدراسة بيولوجية حساسة وتحليل البيانات وكتابة أجزاء من العمل العلمي. قدرت أنثروبيك أن الفائدة التي قدمها النموذج في هذه الحالة ظلت محدودة، لأن أنظمة الحماية منعت الوصول إلى النماذج الأقوى في المهام الأكثر خطورة.
رصد التقرير كذلك استخدام Claude في مشاريع مرتبطة بإعادة تصميم جزيئات وسموم لأغراض علمية يمكن تفسيرها بصورة علاجية أو ضارة حسب السياق. تعمد بعض الباحثين إخفاء أسماء المواد التي يعملون عليها أثناء المحادثات، وهو ما جعل تحديد الهدف الحقيقي أكثر صعوبة.
أكدت أنثروبيك أنها لا تنسب نية خبيثة للعلماء المعنيين، كما امتنعت عن كشف أسمائهم أو المؤسسات التي يعملون بها. يعكس ذلك طبيعة المشكلة الأساسية، حيث يمكن أن يكون المشروع نفسه جزءًا من بحث طبي مشروع أو قاعدة يمكن البناء عليها في تطبيق ضار.
أنثروبيك تعترف بحدود أنظمة الحماية
ترى أنثروبيك أن نماذج الذكاء الاصطناعي الحديثة أصبحت أكثر فائدة للبحث العلمي مقارنة بالأجيال السابقة، وهو ما يرفع في الوقت نفسه قيمة استخدامها لدى الجهات التي تعمل في مجالات حساسة. أطلقت الشركة نموذج Claude Fable 5 بقيود أقوى على بعض الأسئلة البيولوجية بعد أن أظهرت تقييماتها صعوبة ضمان عدم مساهمة النماذج المتقدمة في أبحاث خطرة.
تكشف الحالات أيضًا عن مشكلة الاعتماد على تصنيف محتوى الطلب وحده. قد يبدو سؤال تقني معقد مشروعًا بصورة كاملة عند قراءته منفردًا، بينما تكشف سلسلة طويلة من المحادثات والسياق المرتبط بالحساب عن نمط أكثر إثارة للقلق.
دفعت هذه النتيجة أنثروبيك إلى الدعوة لاستخدام إشارات إضافية، مثل هوية المؤسسة وسجل الحساب وموقع المستخدم وطبيعة المشروع، عند منح الوصول إلى أقوى القدرات العلمية. ترى الشركة أن بعض الأدوات البيولوجية المتقدمة قد تحتاج مستقبلًا إلى برامج وصول مخصصة للمستخدمين والمؤسسات التي خضعت للتحقق.
حظرت أنثروبيك الحسابات التي خالفت سياساتها، وأضافت نتائج التحقيقات إلى أنظمة الحماية الخاصة بها، كما شاركت معلومات مع سلطات وشركات أخرى في الحالات المناسبة. يوضح التقرير في الوقت نفسه أن بعض الباحثين تمكنوا من الحصول على مساعدة محدودة رغم وجود الحواجز، وهو ما يبرز صعوبة بناء حماية مثالية أمام الاستخدامات ثنائية الغرض.
من وجهة نظري، أخطر ما يكشفه التقرير هو صعوبة معرفة النية الحقيقية وراء البحث العلمي الحساس، خاصة عندما تصبح النماذج قادرة على فهم تفاصيل متخصصة للغاية. تشديد الحماية يبدو ضروريًا، لكن الحل لا يمكن أن يعتمد على حظر الكلمات والموضوعات فقط، لذلك تبدو آليات التحقق من المستخدم والمؤسسة والسياق الكامل أكثر أهمية مع ارتفاع قدرات الذكاء الاصطناعي.
