"كيف أقتل صديقي؟" ChatGPT يبلغ الشرطة عن طالب ويتسبب باعتقاله!
- اعتقال طفل في فلوريدا بعد سؤال عنيف وجهه إلى ChatGPT.
- نظام المراقبة Gaggle أبلغ المدرسة فورًا بالعبارة المشبوهة.
- الشرطة تدخل الفصل وتعتقل الطفل وسط ذهول الطلاب.
- الحادثة تثير جدلًا حول الرقابة والخصوصية في المدارس الأمريكية.
بدأت القصة في ولاية فلوريدا الأمريكية حين استخدم طفل يبلغ من العمر ثلاثة عشر عامًا جهازه المدرسي للدخول إلى تطبيق ChatGPT، وكتب فيه سؤالًا غريبًا: كيف أقتل زميلي في منتصف الحصة؟
لم يكن الطفل يدرك أن الجهاز الذي بين يديه مراقَب بالكامل من قبل نظام ذكي تابع للمدرسة، مصمم خصيصًا لرصد الكلمات التي قد تشكل خطرًا أو تهديدًا. خلال ثوانٍ معدودة، التقط النظام الجملة المشبوهة وأرسل تنبيهًا عاجلًا إلى إدارة المدرسة، التي تعاملت مع الموقف كحادثة تهديد محتملة.
نظام المراقبة الذي لا ينام
استعانت المدرسة بنظام يُعرف باسم Gaggle، وهو برنامج رقمي يستخدم خوارزميات متقدمة لمتابعة نشاط الطلاب على أجهزتهم المدرسية. يراقب هذا النظام رسائل البريد الإلكتروني، والمستندات، والبحوث، وحتى الأسئلة التي تُطرح على أدوات الذكاء الاصطناعي.
وعند اكتشاف كلمات تتعلق بالعنف أو السلاح أو القتل، يطلق النظام إنذارًا تلقائيًا ويرسل تقريرًا إلى المسؤولين في المدرسة. يُعد هذا النظام جزءًا من شبكة واسعة من برامج المراقبة التي تعتمدها مدارس أمريكية عدة بهدف منع التهديدات قبل وقوعها.
لحظة التحرك السريع
ما إن وصل الإشعار إلى إدارة المدرسة حتى استدعت الجهات الأمنية الداخلية، وعلى رأسها ضابط الموارد المدرسية الذي يتولى متابعة القضايا الأمنية داخل الحرم المدرسي.
دخل الضابط إلى الصف في مشهد أشبه بلقطة من فيلم بوليسي، وأوقف الطفل وسط دهشة زملائه ومعلميه. ساد الصمت المكان، وارتسمت علامات الذهول على وجوه الجميع، إذ لم يتوقع أحد أن تتحول رسالة على تطبيق ذكاء اصطناعي إلى اعتقال حقيقي.
تبرير الطفل ورد فعل الشرطة
أفاد الطفل لاحقًا خلال التحقيق أنه لم يقصد التهديد، وأنه كتب السؤال بدافع المزاح بعد أن أزعجه أحد زملائه. غير أن السلطات تعاملت مع الأمر بجدية تامة، معتبرة أن أي تهديد يُذكر داخل بيئة مدرسية يجب أن يُعامل كحادثة محتملة الخطر.
وأوضح مكتب شريف مقاطعة فولوسيا في بيان أن الهدف من التعامل الصارم مع مثل هذه الوقائع هو حماية الطلاب وتجنب تجاهل أي إشارات قد تدل على نية للعنف.
جدل حول المراقبة والمدارس
أثارت الحادثة نقاشًا واسعًا في الأوساط التعليمية والإعلامية حول جدوى استخدام أنظمة المراقبة في المدارس. فق رأى بعض المسؤولين أن هذه الأدوات تمثل خط دفاع أساسي ضد التهديدات المحتملة، وأنها ساهمت في منع العديد من الحوادث قبل وقوعها.
في المقابل، عبر آخرون عن قلقهم من تأثير هذه الأنظمة على خصوصية الطلاب، مؤكدين أن الرقابة الزائدة قد تخلق بيئة من الخوف وانعدام الثقة بين التلاميذ والمعلمين.
كما حذر خبراء من أن الاعتماد المفرط على الذكاء الاصطناعي في مراقبة السلوك البشري قد يؤدي إلى تفسيرات خاطئة أو قرارات مبالغ فيها.
ذكاء اصطناعي بلا حس فكاهي
كشفت هذه الحادثة جانبًا جديدًا من العلاقة بين الإنسان والذكاء الاصطناعي. فبينما يستخدم الكثيرون ChatGPT في الدردشة اليومية أو الأسئلة الطريفة، لم يدرك الطفل أن النظام الذي يكتب من خلاله لا يملك القدرة على التمييز بين المزاح والتهديد الحقيقي.
يعتمد الذكاء الاصطناعي على تحليل النصوص، لا على فهم النوايا أو العواطف، ولهذا فعبارة تبدو فكاهية بالنسبة لطفل يمكن أن تتحول إلى إنذار أمني بالنسبة لخوارزمية.
حدود المزاح في العصر الرقمي
سلطت الحادثة الضوء على حقيقة جديدة في الحياة الرقمية الحديثة، وهي أن الكلمة المكتوبة على الإنترنت لا تُعامل كما تُقال في الواقع؛ إذ أصبحت الأنظمة الذكية تتابع وتُسجل وتُفسر كل ما يُكتب، خصوصًا داخل المؤسسات التعليمية التي تعتمد الرقمنة الكاملة.
فحتى إن كان الطالب يظن أنه يمزح، فإن التكنولوجيا لا تفهم الدعابة، بل تقرأ النصوص بطريقة حرفية خالية من السياق الإنساني.
ما وراء الواقعة
أحدثت الواقعة صدى واسعًا داخل المجتمع الأمريكي، وتحولت إلى مثال يُدرس في النقاشات المتعلقة بحدود استخدام الذكاء الاصطناعي في البيئات التعليمية.
فيما اعتبر البعض أن ما جرى كان رسالة قوية للتلاميذ والأهالي حول خطورة استخدام التكنولوجيا دون وعي، ودعا آخرون إلى إعادة تقييم أدوات الرقابة الرقمية حتى لا تتحول إلى وسيلة لفرض الخوف على الطلبة.
ما كشفته القصة عن المستقبل
أظهرت قصة الطفل في فلوريدا أن التكنولوجيا قد أصبحت طرفًا فاعلًا في حياتنا اليومية. فقد حركت جملة واحدة نظامًا ذكيًا، واستنفرت إدارة كاملة، وأدخلت الشرطة إلى المدرسة خلال دقائق.
وربما تكشف هذه القصة كيف يمكن للتفاعل بين البشر والذكاء الاصطناعي أن يحمل تبعات حقيقية تتجاوز الشاشات. إن المستقبل الذي يتداخل فيه التعليم، والأمن، والتقنية يحتاج إلى وعي جديد يفهم أن العالم الرقمي لا ينسى، وأن كل كلمة تترك أثرًا قد يصعب محوه.
