Grok يثير الجدل مجددًا بعد هلوسته في تغطية حادث إطلاق النار في بونداي

• هلوسة Grok أدت إلى نشر معلومات خاطئة عن حادثة إطلاق النار في بونداي.
• أخطأ Grok في تحديد هوية الشخص الذي نزع سلاح أحد المهاجمين.
• خلط Grok بين الحادثة وسياقات سياسية ومعلومات غير ذات صلة.
• أعادت الواقعة طرح تساؤلات حول الاعتماد على الذكاء الاصطناعي في الأخبار العاجلة.

بدأت حادثة إطلاق النار في شاطئ بونداي في أستراليا كواقعة أمنية خطيرة، ثم تحولت سريعًا إلى اختبار حقيقي لأداء منصات الذكاء الاصطناعي، وفي مقدمتها روبوت الدردشة Grok التابع لشركة xAI، والمندمج بشكل مباشر مع منصة X. وكشفت الساعات الأولى بعد الحادثة عن سلسلة من الأخطاء المعلوماتية التي وقع فيها الروبوت، وأثارت نقاشًا واسعًا حول مفهوم هلوسة الذكاء الاصطناعي وحدود الاعتماد عليه في تغطية الأحداث العاجلة.

وقعت الحادثة في موقع عام يشهد عادة تجمعات كبيرة، ما أدى إلى تداول الأخبار والصور ومقاطع الفيديو بوتيرة متسارعة. ودفع هذا التسارع عددًا كبيرًا من المستخدمين إلى اللجوء إلى Grok للحصول على تفسيرات فورية لما جرى، وهو ما وضع النموذج أمام ضغط زمني ومعلوماتي مرتفع. وأظهرت الردود الأولية للروبوت قصورًا واضحًا في فهم السياق والتحقق من المصادر.

• اقرأ أيضًا: «سأهلوس قليلًا»: Grok 4.1 يتصرف وكأنه وصل إلى مرحلة النضج!

هلوسة Grok المثيرة للجدل

ارتكب Grok واحدًا من أبرز أخطائه عندما أخطأ في تحديد هوية الشخص الذي تدخل لنزع سلاح أحد المهاجمين. ونسب الروبوت هذا الدور في أكثر من منشور إلى شخص يدعى إدوارد كرابتري، وقدم عنه وصفًا مهنيًا دقيقًا باعتباره مختصًا في تقنية المعلومات ويعمل مهندسًا معماريًا للحلول. واتضح لاحقًا أن هذا الاسم لا يرتبط بالحادثة، وأن مصدره مقال منشور في موقع إخباري شبه معطل يفتقر إلى مصداقية تحريرية واضحة.

أظهر التدقيق الصحفي أن الشخص الحقيقي الذي قام بنزع السلاح هو أحمد الأحمد، ويبلغ من العمر ثلاثة وأربعين عامًا. وجاء هذا التصحيح بعد أن كانت الرواية الخاطئة قد انتشرت بالفعل عبر ردود Grok، وأعيد تداولها من قبل مستخدمين آخرين، ما ضاعف من أثر الخطأ في الفضاء الرقمي.

امتدت الأخطاء لتشمل تفسير الصور، حيث عرف Grok في أحد ردوده الرجل البطل على أنه رهينة إسرائيلي. واعتُبر هذا التوصيف بعيدًا تماما عن سياق الحدث ومكانه، كما فتح الباب أمام خلط سياسي غير مبرر. وزاد من حدة هذا الخلط قيام الروبوت بإدراج معلومات تتعلق بمعاملة الجيش الإسرائيلي للفلسطينيين ضمن ردوده، رغم أن السؤال المطروح كان يركز حصرًا على حادثة أمنية وقعت في أستراليا.

تعامل Grok أيضا مع مقاطع الفيديو المرتبطة بالحادثة بشكل مربك. وذهب في بعض الردود إلى التشكيك في صحتها، معتبرًا أنها لا توثق إطلاق النار، بل تظهر أحداثًا أخرى غير مرتبطة. وادعى في حالة محددة أن أحد المقاطع يعود إلى ظاهرة طبيعية مثل إعصار عرف باسم سايكلون ألفريد. ولكنه عدل هذا الادعاء لاحقًا بعد إعادة التقييم، في خطوة عكست محاولة متأخرة لتصحيح المسار.

تدارك الأخطاء ومحاولة تصحيحها

كشفت هذه السلسلة من الأخطاء عن نمط متكرر يمكن وصفه بالهلوسة المعلوماتية، حيث قام النموذج بربط عناصر غير متجانسة ببعضها البعض، واعتمد على مصادر ضعيفة الجودة، ثم صاغ منها روايات بدت واثقة في صياغتها رغم افتقارها للدقة. وبرز هذا النمط بوضوح في لحظات الأخبار العاجلة التي تتغير فيها المعطيات بسرعة.

اعترف Grok في رد لاحق بهوية أحمد الأحمد، وأوضح أن سوء الفهم نتج عن منشورات انتشرت بشكل كبير وقدمت تعريفات خاطئة، ربما بسبب خطأ صحفي أو إشارة ساخرة إلى شخصية خيالية. ولم يقدم الروبوت تفسيرًا تفصيليًا لآلية اختيار المصادر التي اعتمد عليها في البداية، وهو ما ترك أسئلة مفتوحة حول منظومة التحقق الداخلي.

ناقش خبراء في الإعلام الرقمي والذكاء الاصطناعي هذه الواقعة باعتبارها مثالًا واضحًا على التحديات البنيوية التي تواجه النماذج اللغوية الكبرى. وأشاروا إلى أن هذه النماذج، رغم قدرتها على معالجة كميات ضخمة من البيانات، تظل عرضة للأخطاء عندما تتعامل مع محتوى مولد آليًا أو مواقع إخبارية غير موثوقة.

أكدت التحليلات أن الاعتماد على الذكاء الاصطناعي كمصدر فوري للمعلومات خلال الأزمات يحمل مخاطر حقيقية، خاصة عندما يغيب الإشراف البشري. واعتبر مختصون أن الثقة الزائدة في ردود الروبوتات قد تساهم في نشر معلومات مغلوطة بشكل أسرع من التصحيحات اللاحقة.

رأي شخصي: أرى أن حادثة بونداي سلطت الضوء على فجوة واضحة بين سرعة الإجابة ودقتها. وأظهرت أن نماذج مثل Grok تحتاج إلى ضوابط أشد عند التعامل مع الأحداث الحساسة، على مستوى تصنيف المصادر وصياغة الاستنتاجات. كما أعادت فتح النقاش حول ضرورة الفصل بين التحليل الآلي والنقل الإخباري الدقيق.

إلى جانب ذلك، تبرز هذه الواقعة أهمية التعامل الحذر مع مخرجات الذكاء الاصطناعي، خاصة في القضايا التي تمس حياة الناس وسمعتهم. كما توضح أهمية بقاء الدور البشري حاضرًا في التحقق والتحرير، باعتباره عنصرًا أساسيًا لضمان دقة المعلومات في الوقت الذي أصبح فيه الواقع يتداخل بشكل كبير مع الضجيج الإعلامي.