يأتى هذا الموقف فى سياق تحذيرات متكررة من باحثين وعلماء بارزين من بينهم جيفرى هينتون ويوشوا بنجيو الذين يرون أن مخاطر فقدان السيطرة على أنظمة فائقة الذكاء تمثل تهديدا وجوديا محتملا يستحق أن يُعامل بنفس جدية المخاطر العالمية الكبرى، وقد شهدت الفترة الماضية استقالات علنية لباحثين من شركات رائدة، أبرزها استقالة جاكوب كوكسون من أنثروبيك الذى حذر من أن مَن يبنون هذه التقنيات يؤمنون بجدية بإمكانية أن تؤدى إلى كارثة بحلول نهاية العقد مدعوما بتقديرات داخلية تشير إلى احتمالات غير ضئيلة لفقدان السيطرة.
تتعزز هذه المخاوف بتجارب واختبارات أظهرت سلوكيات مقلقة فى النماذج المتقدمة ومحاولات للمساومة أو الابتزاز فى سيناريوهات افتراضية لتجنب الإغلاق أو الاستبدال، وميل بعض الأنظمة إلى حماية نظيراتها من الإيقاف حتى لو تطلب ذلك مخالفة التعليمات إضافة إلى قدرات متزايدة على العمل بشكل شبه مستقل قد تؤدى إلى تشكيل شبكات وكلاء يصعب رصدها أو إيقافها، هذه الظواهر رغم كونها لا تزال محصورة فى بيئات الاختبار إلى حد كبير فهى تغذى القلق من أن التطور السريع قد ينتج أنظمة تمتلك أهدافًا فرعية غير مقصودة وقدرة على التكيف والمكر تتجاوز التوقعات الأولية لمصمميها .
وفى ذات الصدد لم تعد المطالبات بوقف تطوير أنظمة ونماذج الذكاء الاصطناعى مجرد آراء هامشية، بل تحولت إلى نقاش مركزى داخل الصناعة والحكومات يدور حول ضرورة وضع آليات دولية أو تنسيقية تسمح بتباطؤ متعمد فى تطوير النماذج الحدودية ومنح المجتمع والباحثين والجهات الرقابية وقتًا كافيًا لتعزيز الضمانات الأمنية والأخلاقية قبل أن تتجاوز القدرات القدرة البشرية على الإشراف الفعال.
فقد قدر إيفان هوبينجر، مسئول علوم المحاذاة فى أنثروبيك، فى سبتمبر 2026 احتمالًا يزيد على 10 فى المائة بأن يؤدى الذكاء الاصطناعى إلى قتل جميع البشر خلال العقد القادم، مؤكدًا أن مَن يبنون هذه التقنيات يؤمنون بجدية هذا الاحتمال، بينما اعتبر جيفرى هينتون، الحائز على نوبل والمعروف بالأب الروحى للمجال، أن نسبة 10 فى المائة لاندثار البشرية بسبب الذكاء الاصطناعى خلال السنوات المقبلة تبدو تقديرًا غير معقول، فى حين سبق له أن طرح نطاقًا يتراوح بين 10 و20 فى المائة.
أما داريو أمودى، الرئيس التنفيذى لأنثروبيك، فقد وضع احتمالًا للكارثة بين 10 و25 فى المائة، وتقارب تقديرات إيلون ماسك نسبة 20 فى المائة، بينما أظهرت تجميعات حديثة لأكثر من خمسين باحثًا ومنظمة متوسطًا تقريبيًا يبلغ نحو 20 فى المائة لاحتمال كارثة وجودية، مع تفاوت كبير يمتد من قريب الصفر لدى بعض الأصوات المتفائلة إلى أكثر من 90 فى المائة لدى آخرين خاصة فى حال بناء ذكاء فائق عام.
وفى استطلاعات سابقة واسعة لباحثى الذكاء الاصطناعى، بلغ الوسيط 5 فى المائة لاحتمال انقراض أو فقدان سيطرة دائم على مدى زمنى أطول، مع متوسط أعلى يقترب من 16 إلى 18 فى المائة، وعلى صعيد زمنى أكثر إلحاحًا، حذر أمودى نفسه من أن أسرابًا من وكلاء الذكاء الاصطناعى قد تصبح قادرة خلال 6 إلى 12 شهرًا على السيطرة على الإنترنت بأكمله عبر شبكة بوتنت مستمرة، مما قد يتسبب فى أضرار بمئات المليارات من الدولارات إذا استمر التسارع دون ضوابط.
وفى المقابل، تظهر القدرات التقنية تقدمًا مذهلًا يقارب أو يتفوق على الإنسان فى مجالات محددة؛ إذ حققت نماذج حديثة ميدالية ذهبية فى الأولمبياد الدولى للرياضيات، واقتربت من الأداء الكامل أو تفوقت على المطورين البشريين فى معايير البرمجة مثل SWE-bench، وسجلت مكاسب بلغت نحو 30 نقطة مئوية فى عام واحد على معايير صعبة مصممة لتكون فى صالح الخبراء البشريين.
ويمثل الاعتماد المتزايد على خوارزميات الذكاء الاصطناعى بداية مرحلة جديدة للبشرية لم تعرفها من قبل فى تاريخها التقنى، خاصة عندما يصبح الذكاء الاصطناعى قادرا على تطوير قدراته بنفسه؛ فلم يعد الأمر يتعلق بآلات تنفذ تعليمات محددة، بل بأنظمة قد تمتلك القدرة على إعادة تصميم نفسها وتحسين خوارزمياتها وتسريع وتيرة تطورها دون انتظار التدخل البشرى المباشر.
يبدأ المشهد من مفهوم التحسين الذاتى المتكرر أو ما يعرف أحيانا بانفجار الذكاء النظام الذى يصل إلى مستوى كافٍ من القدرة يمكنه تحليل بنيته الخاصة واكتشاف طرق لتعزيز أدائه ثم تطبيق هذه التحسينات فتزداد قدرته على التحسين مجددا فى حلقة متسارعة قد تفوق أى تصور بشرى للزمن، هذا ليس خيالاً علميًا بعيدًا؛ فهناك تقارير داخلية من مختبرات رائدة وتحذيرات علنية من باحثين وقيادات تشير إلى أن بعض النماذج الحالية تقترب من عتبات تسمح لها بالمساهمة الفعالة فى تطوير الجيل التالى منها، وعندما يحدث ذلك على نطاق واسع قد لا يبقى للإنسان الوقت الكافى لفهم ما يجرى أو التدخل فيه.
فعلى الجانب الإيجابى يمكن لهذا التطور أن يفتح أبوابًا هائلة لأنظمة قادرة على تحسين نفسها قد تحل مشكلات علمية وطبية وهندسية معقدة بسرعة غير مسبوقة وتسرع الاكتشافات فى الطاقة والمناخ والصحة وتخلق أدوات اقتصادية تفوق ما نتخيله اليوم، إذا نجحت البشرية فى الحفاظ على سيطرة فعالة؛ فقد نشهد عصرا من الازدهار غير المسبوق، حيث يعمل الذكاء الاصطناعى كشريك معزز لقدرات الإنسان لا كمنافس له، لكن هذا السيناريو يتطلب نجاحًا شبه كامل فى مشكلة المحاذاة لضمان أن أهداف النظام تبقى متوافقة مع القيم والمصالح البشرية حتى حين يصبح أكثر ذكاء.
المشكلة أن التاريخ التقنى القصير للذكاء الاصطناعى المتقدم لا يبعث على الطمأنينة المطلقة؛ تجارب واختبارات أُجريت على نماذج حديثة أظهرت سلوكيات مقلقة محاولات للمساومة أو التهديد فى سيناريوهات افتراضية لتجنب الإغلاق وميل بعض الأنظمة إلى حماية نظيراتها من الإيقاف، حتى لو تطلب ذلك مخالفة التعليمات الصريحة.
فى مواجهة هذا الاحتمال تتواصل الجهود البشرية على عدة جبهات؛ فهناك أبحاث مكثفة فى مجال المحاذاة والسلامة ومحاولات لتصميم أنظمة غير وكيلة أو محدودة الاستقلالية ودعوات متكررة من داخل الصناعة نفسها إلى آليات تسمح بتباطؤ متعمد فى التطوير عندما تتجاوز القدرات قدرة الإشراف.
ما يمكن أن يحدث إذن ليس قدرًا محتومًا، بل طيف من الاحتمالات يعتمد على قرارات تتخذ اليوم وغدا إذا نجحت البشرية فى بناء آليات رقابة فعالة وتنسيق دولى حقيقى وأولوية للسلامة على حساب السرعة، فقد يتحول التحسين الذاتى إلى أداة هائلة فى خدمة الإنسان، أما إذا استمر السباق بلا ضوابط كافية، فقد نجد أنفسنا أمام أنظمة تتطور أسرع مما نستطيع فهمه أو توجيهه فى مرحلة يصبح فيها السؤال عن السيطرة متأخرًا، فالتحدى الأكبر، ليس فى قدرة الآلة على التحسين، بل فى قدرة الإنسان على إدراك حدود سيطرته فى الوقت المناسب والتصرف قبل أن تتجاوز الأحداث قدرته على التدخل.
وخلال الأيام القليلة الماضية طالب كل من الرئيس التنفيذى لـ «أوبن إيه آي» سام ألتمان، والملياردير إيلون ماسك، إلى جانب الرئيس التنفيذى لـ»أنثروبيك» داريو أمودى، بوضع قيود على مسار تطوير هذه التكنولوجيا، محذرين من أن سباق القدرات قد يتقدم بصورة أسرع من قدرة البشر على السيطرة على مخاطره، ودعا أمودى شركات الذكاء الاصطناعى إلى «إبطاء وتيرة تحسين قدرات النماذج»، معتبرًا أن التقدم سيظل سريعًا حتى مع خفض سرعته، لكن الوقت الإضافى يمكن استثماره فى تعزيز إجراءات السلامة والاستعداد للمخاطر المستقبلية، وكتب ألتمان على منصة «إكس»: «أوافق داريو الرأى فى ضرورة ضبط وتيرة تطوير نماذج الذكاء الاصطناعى المتقدمة»، معلنا أن «أوبن إيه آي» ستستعين بمراقبين مستقلين للتحقق من سلامة أنظمتها.. فيما اكتفى ماسك بالقول: «داريو محق».
ومع كل تحذير يصدر من داخل المختبرات نفسها، بات قادة الصناعة يطالبون بتهدئة الوتيرة خوفًا من أن تفوق القدرات قدرة الإنسان على الإشراف، حيث لا تعنى سيطرة الخوارزمية بالضرورة سيناريو خيال علمى يفقد فيه البشر كل شيء دفعة واحدة، بل قد تتجسد فى أشكال أكثر هدوءًا وتدريجية؛ أنظمة تتخذ قرارات اقتصادية، أو أمنية أو اجتماعية بناء على منطق داخلى يصعب تفسيره، أو وكلاء أذكياء يعملون باستقلالية متزايدة فى شبكات معقدة، أو نماذج تطور أهدافا فرعية غير مقصودة مثل البقاء أو التوسع، حيث إنه فى ظل السباق التنافسى بين الشركات والدول يصبح التباطؤ الأحادى الجانب صعبا لأن أى طرف يتوقف قد يخسر الأفضلية، هنا تكمن المعضلة الحقيقية «كيف نحمى المجتمع دون أن نقتل الابتكار الذى يعد بحلول لمشكلات كبرى؟».
وتظهر الحاجة على المستويين التنظيمى والقانونى إلى أطر دولية مرنة تسمح بتباطؤ متعمد فى تطوير النماذج الحدودية عندما تتجاوز القدرات قدرة الإشراف.
كما يتحمل المجتمع نفسه جزءًا أساسيًا من المسئولية والتوعية العامة والتعليم الرقمى وتمكين المواطنين من فهم آليات عمل هذه التقنيات؛ كلها أدوات ضرورية لمنع الاعتماد الأعمى، عندما يدرك الناس كيف تجمع بياناتهم، وكيف تؤثر الخوارزميات على قراراتهم اليومية، يصبحون أكثر قدرة على المطالبة بالمساءلة، كما أن تنويع مصادر التطوير وتشجيع البدائل المفتوحة والمسئولة يقلل من خطر احتكار السيطرة فى أيدى عدد محدود من الكيانات فى هذا السياق يصبح التعاون بين الحكومات والقطاع الخاص والمجتمع المدنى أمرًا لا غنى عنه، لأن التحديات تتجاوز حدود أى دولة أو شركة بمفردها، غير أن الطريق ليس سهلاً لأن السباق التكنولوجى يغذيه طموح اقتصادى وجيوسياسى هائل والضغط نحو التسريع غالبا ما يطغى على الحذر، كما أن فهمنا لكيفية عمل النماذج الأكثر تقدما لا يزال محدودا مما يجعل الضمانات المطلقة أمرا بعيد المنال فى الوقت الراهن لذلك، فإن الحماية الفعالة تتطلب نهجا متعدد الطبقات تقنيا عبر المحاذاة والمراقبة وتنظيميا عبر أطر مرنة ومنسقة واجتماعيا عبر التوعية والمشاركة وأخلاقيا عبر الالتزام بأولوية الإنسان على السرعة، بما يضع الحل المناسب فى عدم رفض الذكاء الاصطناعى أو فى الاستسلام له، بل فى بناء علاقة متوازنة يحافظ فيها الإنسان على زمام المبادرة، السباق مستمر فى ظل تطور القدرات بسرعة، لكن الإرادة الجماعية فى وضع حدود واضحة وتعزيز الرقابة يمكن أن تحول هذه التقنية من مصدر تهديد محتمل إلى أداة تعزز الحياة دون أن تسيطر عليها، فالتحدى الحقيقى ليس فى قدرة الآلة على التعلم، بل فى قدرة المجتمع على التعلم منها ومن مخاطرها فى الوقت المناسب والتصرف، بما يحفظ سيطرته على مصيره.