في الأيام الأخيرة، تصاعدت التحذيرات حول المخاطر المحتملة لتطور الذكاء الاصطناعي إلى مرحلة ما يُعرف بـ “الذكاء الاصطناعي الفائق” (ASI)، وسط مخاوف من أن هذه القدرات قد تتجاوز القدرة على السيطرة البشرية، مما يؤدي إلى سيناريوهات كارثية تهدد مستقبل البشرية. ووفقاً لتقرير نشرته صحيفة “الغارديان” البريطانية، فإن الأهمية القصوى لهذه المسألة تبرز في حاجة المجتمع الدولي إلى اتخاذ تدابير فورية لمنع وقوع كوارث لا يمكن تداركها.
خلال جلسة لمجلس النواب البريطاني، حذر عدد من المسؤولين والخبراء من أن الذكاء الاصطناعي الفائق يمكن أن يشكل خطرًا يوازي أو حتى يتجاوز خطر الأسلحة النووية. حيث صرح ديس براون، وزير الدفاع البريطاني الأسبق، بأنه خلال فترة توليه المنصب، اعتبر الحرب النووية أكبر تهديد للبشرية، لكنه أصبح الآن يؤمن بأن “الذكاء الاصطناعي الفائق قد يمثل تهديدًا بنفس الحجم أو أكبر”.
كما حذر البروفيسور ستيوارت راسل، عالم الحاسوب في جامعة كاليفورنيا في بيركلي، من وقوع كارثة قد توازي كارثة تشيرنوبل، بل أشار إلى إمكانية وجود سيناريو أكثر خطورة حيث تفقد البشرية السيطرة على أنظمة الذكاء الاصطناعي بشكل لا يمكن إصلاحه.
جاءت هذه التحذيرات خلال فعالية نظمها تحالف “Control AI” في لندن، وهي مجموعة ضغط تسعى لوضع قواعد دولية لتنظيم الذكاء الاصطناعي، وتدعم مشروع قانون قيد النقاش في البرلمان البريطاني يهدف إلى حظر تطوير الذكاء الاصطناعي الفائق.
تحذيرات من انقراض البشرية
أثار إيفان هوبينغر، المسؤول عن أبحاث المواءمة في شركة أنثروبيك، جدلاً واسعاً عندما أشار إلى أن احتمالية أن تؤدي هذه التكنولوجيا إلى “قتل كافة البشر” قد تتجاوز 10% خلال العقد المقبل.
وجاء تصريح هوبينغر كتعبير عن قلق عميق بعد استقالة الباحث جاكوب كوكسون، الذي كان يعمل سابقًا في OpenAI، حيث وصف سلوك الشركتين بأنه غير مسؤول وأنهما “تقامران بحياتنا”.
وأشار كوكسون، الذي عمل في أنثروبيك، إلى أن المخاطر المتعلقة بالذكاء الاصطناعي معروفة تماماً داخل الشركة، لكنه اتهم الشركات بأنها ماضية في سباق للوصول إلى الذكاء الاصطناعي الفائق أولاً. على الرغم من ذلك، أعرب عن أمله في إمكانية تنسيق المختبرات الأمريكية الكبرى جهودها لإبطاء هذا السباق.
تتباين التوقعات حول مواعيد الوصول إلى الذكاء الاصطناعي الفائق، فبينما يعتقد بعض الخبراء بأنه قد يتحقق خلال سنوات قليلة، يرى آخرون أن ذلك قد يستغرق أكثر من عشر سنوات.
دعوات إلى معاهدة دولية
في المملكة المتحدة، دعا النائب العمالي دارين جونز إلى إبرام “معاهدة متعددة الأطراف للتطوير المنظم والآمن للذكاء الاصطناعي الفائق”، مؤكدًا أن الهدف ليس وقف الابتكار أو البحث العلمي، بل وضع السلامة في مقدمة الأولويات مع تسارع التكنولوجيا.
وأضاف جونز بأن الجدل الحالي يتمحور بين التحذير من نهاية البشرية واعتبار المخاوف مجرد “ضجة تسويقية”، مشددًا على ضرورة تدخل الحكومات الآن.
أعربت الحكومة البريطانية عن قلقها من عدم تقديم أنثروبيك نموذجها الأحدث “Mythos 5.1” إلى معهد أمن الذكاء الاصطناعي البريطاني لاختبارات ما قبل الإطلاق. وأكد مكتب مجلس الوزراء أن عددًا محدودًا فقط من المؤسسات الأمريكية حقق الوصول إلى النموذج، مشيرًا إلى تعاون مستمر بين معهد أمن الذكاء الاصطناعي والشركات في هذا المجال، بما في ذلك أنثروبيك.
في الولايات المتحدة، زادت مطالب السيناتور بيرني ساندرز بتنظيم الذكاء الاصطناعي، داعيًا الكونغرس للعمل. وأشار ساندرز إلى استطلاعات تشير إلى أن 81% من الأمريكيين يرون ضرورة اتخاذ السياسيين إجراءات بشأن هذه التقنية.
وقال ساندرز إن مستقبل البشرية واقتصادها وبيئتها وديمقراطيتها وخصوصيتها لا يجب أن تحدده “مجموعة من الأشخاص الجشعين” دون مشاركة الجمهور.
مخاطر مبالغ فيها
على الرغم من خطورة التحذيرات، أبدى عدد من الخبراء وجهة نظر أكثر تحفظًا، محذرين من الانجرار وراء السيناريوهات الكارثية.
قال الدكتور أندرو روجويفسكي، من معهد ساري للذكاء الاصطناعي، إن الأنظمة الحالية لا تزال تحتاج إلى وقت طويل للوصول إلى مستوى مرونة القدرات البشرية، كما لا يمكن للبشر العمل بصورة جماعية كما هو مطلوب. وتوقع أن ما قد يحدث هو “خيبة أمل كبيرة”، حيث قد يتبين أن الذكاء الاصطناعي المتقدم قليل التكلفة أو غير مجدي للاستمرار في نماذجه الحالية.
وفي ذات السياق، حذر ديفيد باربر، مدير مختبر Sofair لأبحاث الذكاء الاصطناعي، من مخاطرة التعامل مع التكنولوجيا كما لو كانت تشكل تهديدًا يجب التخلص منه، مؤكدًا أنها أصبحت جزءاً مهماً وتحمل فائدة كبيرة، لكن الاستخدام غير المقيد للوصول إلى الإنترنت قد يؤدي إلى مشاكل تستدعي المزيد من السيطرة والرقابة.
بدورها، أكدت ساندرا فاختر، أستاذة في معهد أكسفورد للإنترنت، أنها لا تؤمن بالسيناريوهات الكارثية، لكنها شددت على أن المخاطر المحيطة بالذكاء الاصطناعي حقيقية وملحة، ومنها التأثير البيئي، ونشر المعلومات المضللة، وتأثيره على الوظائف.
وقالت إنه يجب معالجة هذه القضايا بشكل عاجل، محذرة من أن السيناريوهات المروعة قد تشتت الانتباه عن المشاكل الحقيقية التي تفرضها التكنولوجيا الآن.
يرى المعلق والباحث في مجال الذكاء الاصطناعي غاري ماركوس، أن هناك فراقًا جوهريًا بين الذكاء الاصطناعي الفائق “المتوافق” مع مصالح البشر، إذا كان تحقيق ذلك ممكنًا، والذكاء الاصطناعي الفائق غير المتوافق. ونحن إذا حققنا الأول، قد يكون ذلك إيجابيًا للبشرية، لكن الواقع الحاضر يجعل الوضع مهددًا، مما يتطلب دراسة دقيقة وتخطيطًا مسؤولًا بعيدًا عن الضغوطات.
