خطر الذكاء الاصطناعي: لماذا يدعو خبراء إلى وقف مؤقت؟

في 5 أكتوبر 2026 نقل باحثون سابقون في الذكاء الاصطناعي جدلاً يدور عادة في المختبرات وعلى الإنترنت إلى مجلس مدينة نيويورك. يسجل التقرير الرسمي للمجلس تحذير جاكوب كوكسون من أن المسار الحالي قد ينتهي بفقدان البشر السيطرة على الذكاء الاصطناعي المتقدم. هذه شهادة عن مستقبل يخشاه، لا دليل على وقوع كارثة كهذه. ويهم هذا التمييز مع انتقال مطالب إبطاء التطوير من رسائل مفتوحة إلى مقترحات تشريعية.

أصوات هذا الجدل ليست متطابقة. يثير كوكسون مخاوف بشأن الحوافز ومشكلات التحكم التي يراها في تطوير الأنظمة المتقدمة. ويحذر جيفري هينتون من أن تصبح الأنظمة أقدر من صانعيها. ويسعى بيرني ساندرز إلى تدخل تشريعي محدد. الاتفاق على ضرورة الرقابة لا يعني تأييد الوقف نفسه أو المهلة نفسها أو الحظر نفسه.

تنويه الصورة: الغلاف رسم تحريري مولد بالذكاء الاصطناعي لمشهد مقابلة متخيل مستوحى من جاكوب كوكسون. تظهر الشعارات لتوضيح السياق، وليس الغلاف صورة مقابلة حقيقية أو دليلاً على عمله أو ارتباطه بكل الشركات المعروضة.

جاكوب كوكسون: لماذا يطلق باحث في الذكاء الاصطناعي التحذير؟

نشرت أسوشيتد برس خبر إعلان استقالته في 8 سبتمبر وروايته عن ثلاث سنوات من البحث إجمالاً في OpenAI وAnthropic. ويحدد حوار WIRED عمله في التدريب المسبق، أي المرحلة التي تبني القدرات العامة للنموذج. وصفه بمدافع عن سلامة الذكاء الاصطناعي يصف موقفه العلني، ولا يثبت منصباً رسمياً كرئيس سلامة Anthropic أو باحث متخصص في المواءمة.

قال لـ Axios إنه غادر بسبب مخاوف السلامة قبل استحقاق حصته من أسهم Anthropic. هذا تفسير موثق قدمه كوكسون، وليس تدقيقاً مستقلاً في قرارات الشركات الداخلية. وانتقد بيان استقالته منافسة يرى أنها تكافئ التسريع نحو أنظمة تحسن نفسها قبل ضمان التحكم بها. تجعل خبرته شهادته مهمة، لكنها لا تجعل توقعاته يقينية.

في جلسة 5 أكتوبر سجل المجلس تقدير كوكسون بأن فقدان السيطرة أرجح من عدمه على المسار الحالي. هذا تقييمه وليس توقعاً مثبتاً إحصائياً. وفي مقابلته في سبتمبر ناقش إيقاعاً منسقاً دولياً وصعوبة وقف أحادي بينما يستمر المنافسون. وهذا أدق من القول إنه يطالب بإطفاء كل تطبيق للذكاء الاصطناعي.

جيفري هينتون: تحذير بشأن التحكم

ميز خطاب هينتون الرسمي في مأدبة نوبل في 10 ديسمبر 2024 بين المخاطر الاجتماعية الآنية واحتمال ظهور أنظمة رقمية أكثر ذكاء مستقبلاً. ودعا إلى بحث عاجل في الحفاظ على التحكم وانتقد الاتكال على شركات تحركها أرباح قصيرة الأمد. هذا موقف أصلي لباحث بارز، لا استنتاج للجنة نوبل بأن الكارثة حتمية. ولا يثبت التحذير وحده تأييد مشروع ساندرز بعينه.

بيرني ساندرز: وقف مؤقت في مشروع قانون

قدم ساندرز والنائب غريغ كاسار تشريعهما في 23 سبتمبر 2026. يقترح النص المقدم إلى مجلس الشيوخ S. 5493 وزارة للذكاء الاصطناعي ووقف تطوير الأنظمة المتقدمة حتى اكتمال موظفيها ووضع قواعد السلامة، وحظراً دائماً للذكاء الاصطناعي الفائق. التقديم والإحالة إلى لجنة خطوتان تشريعيتان، وليستا إقراراً للقانون. لا ينبغي وصف المقترح بأنه حظر وطني قائم.

ثلاث فئات من المخاطر يجب تمييزها

يغطي ملف NIST لمخاطر الذكاء الاصطناعي التوليدي أخطاراً عملية كالمعلومات الخاطئة وانتهاك الخصوصية والتمييز وسوء الاستخدام. وقد تسهل الوسائط المصطنعة انتحال الهوية والاحتيال، ويمكن إنتاج نصوص إقناعية على نطاق واسع. هذه آليات مخاطر آنية تتوقف آثارها على الانتشار والتحقق والضمانات والقرارات البشرية. اعتبار كل معلومة مولدة كاذبة دليلاً على استيلاء ذاتي مستقبلي يطمس المشكلة.

تقدم تجربة Anthropic وRedwood Research عن تظاهر النماذج بالمواءمة فئة ثانية: سلوكاً مقلقاً ضمن اختبار مصمم عمداً. تلقت النماذج معلومات عن تدريب افتراضي، وغيرت سلوكها أحياناً لحماية تفضيلات سابقة. وأوضح الباحثون أن ذلك لا يثبت أهدافاً خبيثة. الخداع التجريبي مهم لفهم فشل التدريب، لكن لا يجوز تحويل ظروفه إلى ادعاء عن كل نموذج في الواقع.

المواءمة والاستقلالية وحدود الاختبارات

تبحث المواءمة في بقاء سلوك النظام متوافقاً مع القيود البشرية المقصودة خارج أمثلة التدريب أيضاً. وتبحث الاستقلالية في أفعاله وأدواته وصلاحياته ومدتها. أما الخداع فيتعلق بتضليل الناس أو المقيمين. هذه أسئلة مترابطة وليست مترادفة. يحتاج اختلاق مرجع، أو اتباع تعليمات خبيثة، أو إخفاء قدرة عمداً إلى تفسيرات وعلاجات مختلفة.

يوفر تقييم السلامة أدلة ضمن شروط محددة. وقد تتغير النتائج مع الأدوات والبنية الداعمة والتعليمات والحوافز والوقت المتاح. يحتاج المقيمون المستقلون إلى وصول يكفي لإعادة الاختبارات، فيما يحتاج المطورون إلى حماية بيانات النموذج وتفاصيل الأمن الحساسة. النجاح في اختبار معياري ليس شهادة سلامة شاملة، والفشل يحتاج سياقاً قبل تحويله إلى توقع عن النشر.

الأمن السيبراني والعمل: قدرات مزدوجة الاستخدام

قال بيان OpenAI في أغسطس 2026 إن اختبارات Astra، الذي لم يكن مطروحاً آنذاك، لا تستبعد عتبة القدرات السيبرانية الحرجة. ثم صنفته تحديثات 1 سبتمبر عند هذه العتبة، ووصفت ضمانات ومراقبة أقوى وقيوداً على الوصول السيبراني المتقدم. هذه تقييمات المطور، لا إثبات لتشغيل عام خارج السيطرة. قد تخدم القدرة نفسها اكتشاف الثغرات والدفاع أو تساعد المهاجمين. وتهم الصلاحيات والعزل إلى جانب مهارة النموذج.

تفصل أبحاث منظمة العمل الدولية لعام 2025 عن التعرض المهني بين مهام قد تتأثر ووظائف أُلغيت فعلياً. التحول عادة أرجح من الاستبدال الكامل لأن المهن تجمع مهام متعددة. لكن الاضطراب قد يغير قوة التفاوض وفرص المبتدئين والأجور وجودة العمل. لا يثبت مؤشر التعرض توقع بطالة شاملة، ولن يعكس وقف تدريب النماذج المتقدمة كل الأتمتة القائمة.

سباق النماذج المتقدمة وتعهدات السلامة

تتنافس OpenAI وAnthropic وGoogle DeepMind وxAI وMeta وDeepSeek على النماذج والتوزيع والباحثين. وثائقها العامة ليست معيار سلامة مشتركاً مدققاً. تنشر OpenAI إطار الاستعداد، وتدير Anthropic سياسة التوسع المسؤول، وتنشر Google DeepMind إطار السلامة المتقدمة. يصف الإطار عملية، لكن تأثيره الفعلي في قرار مهم يحتاج أدلة على التنفيذ والعتبات والتدقيق المستقل.

التنظيم والتعاون أوسع من الوقف المؤقت

تشرح إرشادات المفوضية الأوروبية للنماذج العامة التوثيق وسياسة حقوق النشر وملخصات محتوى التدريب، مع واجبات إضافية للنماذج ذات المخاطر النظامية. هذه متطلبات متفاوتة وليست حظراً لكل الذكاء الاصطناعي. ودعت تعهدات سيول للسلامة عام 2024 إلى عتبات مخاطر ووقف التطوير أو النشر حين لا يمكن تخفيف مخاطر جسيمة بما يكفي. كانت تعهدات طوعية، لا معاهدة إنفاذ دولية.

تعالج حماية المبلغين والإبلاغ عن الحوادث والاختبارات المستقلة ووصول المقيمين العامين نقاط ضعف مختلفة. قد تملك شركة معلومات لا يستطيع الخارج فحصها، وقد يفتقر المقيم المستقل إلى الأدوات أو الوقت لإعادة نتيجة. تحتاج الرقابة إلى سد هذه الفجوة دون نشر تفاصيل تقنية خطرة. ويحتاج التعاون الدولي إلى تعريفات مشتركة وقياسات موثوقة واستجابة متفق عليها لانتهاك القواعد.

ماذا يتطلب وقف واقعي للتطوير؟

طلبت الرسالة المفتوحة في مارس 2023 ستة أشهر على الأقل دون تدريب أنظمة أقوى من GPT-4. تحتاج سياسة عملية اليوم إلى أكثر من اسم نموذج تاريخي. ومن منظور تحليل السياسات، تشمل الأسئلة القدرات التي تفعل القيود، وشمول التدريب والنشر، والأنشطة المسموحة، وجهة التحقق، والأدلة اللازمة للاستئناف. قد تؤجل مهلة ثابتة دون شروط خروج قابلة للقياس القرار غير المحسوم نفسه.

قد تشمل آليات التحقق تسجيل عمليات التدريب الكبيرة ووصولاً مضبوطاً للمقيمين وسجلات البنية التحتية والإفصاح عن الحوادث. تساعد عتبات القدرة الحاسوبية على تحديد المشاريع الكبيرة، لكن كفاءة الخوارزميات وتقنيات ما بعد التدريب تعقد حدوداً تعتمد على الأجهزة وحدها. وتحتاج استثناءات أبحاث السلامة إلى تعريف يمنع مجرد إعادة تسمية تطوير القدرات. هذه خيارات تصميم، لا وصف لوقف عالمي يعمل فعلياً.

أقوى حجج الإبطاء وأبرز الاعتراضات

تقول حجة الاحتياط إن الضرر غير القابل للعكس لا يستلزم انتظار كارثة قبل التدخل. يمكن استخدام الوقت لتحسين التقييمات وأبحاث التحكم والمؤسسات العامة والأمن. وقد تقلل قاعدة مشتركة العقوبة التنافسية التي يتحملها مطور حذر. لكن الفائدة تتوقف على ما ينجزه المشاركون أثناء الوقف، وعلى شمول الاتفاق للجهات القادرة على الاستمرار في مكان آخر.

ليست الاعتراضات كلها إنكاراً للمخاطر. قد يؤخر تقييد واسع أدوات علمية مفيدة، ويفيد الشركات الراسخة على حساب الوافدين، وينقل العمل إلى بيئات أقل شفافية أو يقيد الدفاع بينما يتكيف المهاجمون. وقد يصعب إنفاذ قاعدة أحادية دولياً. تمثل قيود أضيق مرتبطة بقدرات خطرة مثبتة، مع تدقيق وضوابط نشر، بديلاً. يحتاج الاختيار إلى أدلة عن الأضرار المتجنبة والفوائد المؤجلة معاً.

العلم والأعمال والمجتمع: ما الذي على المحك؟

السؤال المفيد ليس إن كان الذكاء الاصطناعي جيداً أو سيئاً ببساطة، بل أي أنظمة بصلاحيات معينة تخلق أي مخاطر وفوائد ولمن. يمكن أن تتعايش مساعدة علمية وأتمتة أفضل مع مشكلات أمنية ومكاسب اقتصادية غير متكافئة. يشرح تقريرنا عن Tesla Optimus وUnitree لماذا لا تساوي تجربة مقنعة نشراً ذاتياً موثوقاً. ويلزم الانضباط نفسه لتقييم تحذيرات النماذج المتقدمة.

تطرح مداخلة كوكسون سؤال حوكمة من داخل التطوير: هل يمكن الوثوق بشركات متنافسة لإبطاء نفسها بينما تدفعها الحوافز إلى التقدم؟ يركز هينتون على التحكم، ويقترح ساندرز إجابة قانونية. تستحق التحذيرات الفحص، وتستحق الاستنتاجات التدقيق أيضاً. يشرح دليلنا للذكاء الاصطناعي العام والفائق المصطلحات؛ فالاسم لا يثبت بلوغ القدرة.

اختبار سياسة سلامة جادة هو تغيير القرارات قبل الضرر، وإنتاج أدلة قابلة للفحص، وإمكان إنفاذها بعدل. تبدأ الدعوة إلى وقف النقاش، ويبدأ العمل الصعب عند تعريف حدوده والتحقق منه وشروط إنهائه.