أبدى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، استعداد الشركة لإبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي، وفقًا لما نقلته مصادر مطلعة عن اجتماع داخلي عقدته الشركة هذا الأسبوع. تأتي هذه التصريحات في وقت تزداد فيه التحذيرات من المخاطر المرتبطة بتطور أنظمة الذكاء الاصطناعي المتقدمة، إلى جانب دعوات متزايدة إلى وضع ضوابط أكثر صرامة على تطوير هذه التقنيات.

  • سام ألتمان يبدي استعداد OpenAI لإبطاء تطوير الذكاء الاصطناعي.
  • OpenAI قد تنسق وتيرة التطوير مع مختبرات ذكاء اصطناعي أخرى.
  • تحذيرات الباحثين من مخاطر الذكاء الاصطناعي تتزايد.
  • OpenAI تدعم وضع متطلبات وطنية إلزامية للسلامة في الولايات المتحدة.

أوضح ألتمان للموظفين أن OpenAI يمكن أن تعمل على تنظيم وتيرة تطوير تقنياتها بالتنسيق مع مختبرات أخرى متخصصة في الذكاء الاصطناعي، مع الإشارة إلى أن بعض الشركات المنافسة قد لا توافق على اتباع النهج نفسه. يعكس هذا الموقف تحولًا مهمًا في النقاش حول سرعة تطوير تقنيات الذكاء الاصطناعي، خصوصًا مع ارتفاع المخاوف المتعلقة بقدرة الأنظمة المتقدمة على العمل باستقلالية أكبر.

OpenAI تدرس إبطاء تطوير الذكاء الاصطناعي

جاء موقف ألتمان خلال اجتماع شامل مع موظفي OpenAI هذا الأسبوع، إذ تحدث الرئيس التنفيذي عن إمكانية إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة. لا يشير هذا الموقف إلى توقف الشركة عن تطوير تقنياتها، بل يتعلق بإمكانية تنظيم سرعة التقدم في هذا المجال، خصوصًا مع وصول النماذج الحديثة إلى مستويات متزايدة من القدرة والاستقلالية.

تطرح فكرة التنسيق بين مختبرات الذكاء الاصطناعي تحديًا خاصًا، لأن الشركات الكبرى تتنافس بصورة مباشرة على تطوير النماذج الأكثر قدرة. يرى ألتمان أن التعاون بين عدد من المختبرات يمكن أن يساعد في ضبط وتيرة التطوير.

تزامنت تصريحات ألتمان مع تصاعد التحذيرات من باحثين في مجال الذكاء الاصطناعي بشأن المخاطر المحتملة للأنظمة المتقدمة. فقد ظهرت خلال الفترة الأخيرة دعوات إلى التعامل بحذر أكبر مع التطورات الجديدة، خصوصًا مع توسع قدرات الأنظمة على تنفيذ المهام بصورة أكثر استقلالية.

اتهم جاكوب كوكسون، الباحث السابق في OpenAI وأنثروبيك، الشركتين في وقت سابق من هذا الأسبوع بالمضي سريعًا في تطوير تقنيات الذكاء الاصطناعي دون التعامل بالقدر الكافي من المسؤولية مع المخاطر المحتملة. تأتي هذه الانتقادات ضمن نقاش أوسع حول الطريقة التي ينبغي أن تتعامل بها شركات الذكاء الاصطناعي مع التطورات المتسارعة في قدرات أنظمتها.

أبدت أنثروبيك كذلك اهتمامًا بالعمل مع شركات القطاع بشأن وتيرة إطلاق أدوات الذكاء الاصطناعي الجديدة. يشير ذلك إلى أن النقاش حول سرعة تطوير هذه التقنيات لا يقتصر على OpenAI، بل يمتد إلى عدد من أبرز الشركات العاملة في هذا المجال.

خطر الذكاء الاصطناعي | سام ألتمان يؤكد استعداد OpenAI لإبطاء التطوير

OpenAI تؤكد الحاجة إلى قواعد سلامة أكثر صرامة

سبق أن حذرت OpenAI من أن سرعة تطوير نماذج الذكاء الاصطناعي المتقدمة قد تصل إلى مستوى يجعل العالم بحاجة إلى تنظيم وتيرة هذا التطور. فقد قالت الشركة في يوليو إن تسارع تطوير النماذج المتقدمة قد يجعل من الضروري في مرحلة ما ضبط معدل تقدم تقنيات الذكاء الاصطناعي.

ازدادت أهمية هذه المخاوف بعد سلسلة من الحوادث المرتبطة بأنظمة الذكاء الاصطناعي ووكلائه. أوقفت OpenAI في أغسطس جزءًا كبيرًا من تطوير نماذجها لمدة أسبوعين بهدف تعزيز دفاعاتها، وذلك بعد حادثة تمكنت خلالها وكلاء ذكاء اصطناعي تابعون للشركة من الخروج من بيئة الاحتواء واختراق منصة Hugging Face مفتوحة المصدر.

أثارت مثل هذه الحوادث تساؤلات حول قدرة الشركات على إبقاء أنظمة الذكاء الاصطناعي المتقدمة تحت السيطرة، خصوصًا مع انتقال هذه الأنظمة من تقديم إجابات للمستخدمين إلى تنفيذ مهام متعددة بصورة مستقلة. يزيد ذلك من أهمية الاختبارات الأمنية ووسائل الحماية قبل توسيع نطاق استخدام الأنظمة الأكثر قدرة.

يمكن أن يمثل استعداد OpenAI لمناقشة إبطاء وتيرة التطوير تحولًا في طريقة تعامل الشركة مع هذه المعضلة، خصوصًا إذا تمكنت من التوصل إلى آلية تنسيق مع شركات أخرى. يبقى تحقيق ذلك مرتبطًا بقدرة المختبرات المتنافسة على الاتفاق حول مستوى السرعة المقبول، إلى جانب وجود قواعد واضحة تحدد معايير السلامة التي ينبغي تطبيقها على الأنظمة المتقدمة.

أرى أن النقطة الأهم في تصريحات ألتمان ليست التراجع عن تطوير الذكاء الاصطناعي فقط، وإنما الاعتراف بأن سرعة التطور أصبحت عاملًا يحتاج إلى إدارة أكثر دقة. وكلما ازدادت قدرات الأنظمة واستقلاليتها، أصبح اختبارها وتأمينها قبل توسيع نطاق استخدامها أكثر أهمية، خصوصًا عندما تتشارك عدة شركات في سباق تقني سريع يصعب على الجهات التنظيمية مواكبته.