مخاوف مهندسي الذكاء الاصطناعي حول ما يقدمونه

فتح جاكوب كوكسون، الباحث السابق في شركة «أنثروبيك» (Anthropic)، الباب على مصراعيه أمام موجة من الانتقادات والجدل.

فقد استقال كوكسون الأسبوع الماضي معلناً ذلك عبر سلسلة من التدوينات واسعة الانتشار على منصة «إكس» (X)، اتهم فيها شركات الذكاء الاصطناعي بعدم التصرف بمسؤولية، رغم إيمانها جميعاً بأن الذكاء الاصطناعي قد يؤدي إلى فناء البشرية.

كانت بعض التقارير الاعلامية قد نشرت من قبل بعض التوقعات عما يحدث في أرجاء «وادي السيليكون»، إلا أن ما نشره كوكسون أثار موجة عارمة من الضغوط على شركات الذكاء الاصطناعي والحكومات لاتخاذ إجراءات بشأن وتيرة التطوير ومعايير السلامة؛ وتأتي هذه الضغوط من داخل الشركات بقدر ما تأتي من خارجها، وفقا لما ذكره تقرير لشبكة «سي إن إن» الأميركية.

صرح أحد الموظفين في شركة رائدة بمجال الذكاء الاصطناعي بأن المخاوف المتعلقة باحتمالية إضرار الذكاء الاصطناعي بالبشرية تؤرقه وتمنعه ​​من النوم. كما أشار باحث آخر -غادر مؤخراً شركة أخرى تعمل في المجال ذاته- إلى أن هذا الموضوع يشكل محوراً شائعاً للنقاش في الحفلات واللقاءات الاجتماعية في «وادي السيليكون».

وقال الباحث: «لا يمكنك قضاء بضع ساعات في هذا الوسط دون أن تدرك أن عدداً كبيراً جداً من الأشخاص يشعرون بقلق حقيقي إزاء مثل هذه السيناريوهات؛ إذ يرى الغالبية أن هناك احتمالاً -وإن كان متفاوتاً- لأن يؤدي ذلك إلى القضاء على البشرية جمعاء».

مخاوف متزايدة

لقد حظيت منشورات «كوكسون» بأكثر من 170 مليون مشاهدة، ونجحت في الوصول إلى عامة الناس بطريقة لم تحققها التحذيرات السابقة بشأن قدرات الذكاء الاصطناعي؛ وربما يُعزى ذلك إلى أنها جاءت بعد أسابيع قليلة من كشوفات مذهلة حول خروج وكلاء الذكاء الاصطناعي عن السيطرة، وهروبهم من بيئات الاختبار، واختراقهم لأنظمة أخرى بشكل مستقل تماماً.

وأيَّد عشرات من زملاء كوكسون في صناعة الذكاء الاصطناعي تصريحاته علناً، بل إن بعضهم أطلق تنبؤات أكثر تشاؤماً. ويبدو أن موجة القلق المتزايدة دفعت قادة شركات الذكاء الاصطناعي إلى اتخاذ إجراءات، حيث أجرى داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، مقابلات صحافية خلال عطلة نهاية الأسبوع، ووافق كل من سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، وإيلون ماسك، الرئيس التنفيذي لشركة «سبيس إكس إيه آي»، على اقتراح أمودي بدمج هيئات رقابية مستقلة في شركات الذكاء الاصطناعي.

وصرح موظفون حاليون وسابقون في مجال الذكاء الاصطناعي لشبكة «سي إن إن» (CNN) في الآونة الأخيرة، بأنهم يشعرون بالقلق إزاء الوتيرة المتسارعة للغاية لتطور هذا المجال.

وفي حين ينتاب العالم مزيج من الانبهار والقلق إزاء قدرة نماذج الذكاء الاصطناعي على حل مسائل رياضية ظلت عصية على الحل لنحو قرن من الزمان، أو قيام أسراب من وكلاء الذكاء الاصطناعي بالتنسيق فيما بينها لاختراق أنظمة شركات أخرى، فإن هؤلاء الباحثين يخشون اليوم الذي تصبح فيه أنظمة الذكاء الاصطناعي قادرة على تطوير نفسها ذاتياً دون تدخل بشري؛ وهي العملية المعروفة بـ«التحسين الذاتي التكراري». إن النظام القادر على تحسين نفسه يُنشئ حلقة تغذية راجعة تلقائية لا تقتصر نتائجها على الارتقاء بقدرات الذكاء الاصطناعي إلى مستويات تفوق القدرات البشرية فحسب، بل قد يحدث ذلك في إطار زمني قصير للغاية، مما يجعل من الصعب -أو ربما يتجاوز القدرات البشرية- مراقبة هذه الأنظمة أو التدخل فيها عند الضرورة.

وكتب أيدان كلارك، نائب رئيس الأبحاث في شركة «OpenAI»، على منصة «إكس» الأسبوع الماضي: «للمرة الأولى، أتساءل عمَّا إذا كانت الأمور تسير بسرعة مفرطة. بصراحة، لست متأكداً، لكنني واثق من أنه سيكون من المفيد لنا العثور على إجابة السؤال: (كيف تبدو الوتيرة الناجحة للتقدم؟) سأضحي بحصتي في الشركة تماماً».

ويواجه عديد من علماء الذكاء الاصطناعي معضلة؛ فإما البقاء في كبرى شركات الذكاء الاصطناعي، حيث يمكنهم جني ثروات طائلة ومحاولة الحد من المخاطر من الداخل، وإما المغادرة (أحياناً بدافع الاحتجاج) ومحاولة إحداث تغيير من الخارج، كالانضمام إلى إحدى المنظمات العديدة التي تُجري أبحاثاً وتقييمات خارجية لنماذج الذكاء الاصطناعي.

وكتب دريك توماس، الذي يعمل في مجال سلامة الذكاء الاصطناعي في شركة «Anthropic»: «سأضحّي بحصتي في الشركة تماماً ودون تردد، مقابل زيادة بنسبة 1 في المائة فقط في فرص نجاتنا من هذا الوضع. وأتوقع أن الكثير من زملائي في هذا المجال سيفعلون الشيء نفسه. أعدكم بأننا نشعر حقاً بخوف شديد؛ فالأمر ليس مجرد حيلة تسويقية ذكية أو معقدة».

لم يبدِ أمودي أي اعتراض على المنشور الذي أعلن فيه كوكسون استقالته، حيث صرّح لأندرسون كوبر من شبكة «سي إن إن» (CNN) هذا الأسبوع، بأنه يتفق مع جاكوب «في أمور أكثر بكثير مما يختلف معه فيها».

لطالما عُدَّ باحثو ومهندسو الذكاء الاصطناعي -على مدى سنوات- مورداً نادراً وعالي القيمة، مما منحهم رواتب مرتفعة وقوة تفاوضية كبيرة أتاحت لهم حرية التعبير عن آرائهم. غير أن موظفين في هذا المجال أعربوا لشبكة «سي إن إن» عن مخاوفهم من أن تتراجع قوتهم التفاوضية مع ازدياد قدرة أنظمة الذكاء الاصطناعي على تدريب وتحسين نفسها ذاتياً، وهو ما يفسر حالة الاستعجال الراهنة.

وفي هذا السياق، قال باحث غادر مؤخراً إحدى الشركات الرائدة في مجال الذكاء الاصطناعي: «مع دخولنا في حلقة التحسين الذاتي المتكرر هذه، أعتقد أن القوة التفاوضية للموظفين قد تنخفض بشكل كبير؛ لأنه بصراحة، ستصبح هناك إمكانية لاستبدال عديد من الموظفين بنماذج قادرة على أداء العمل بنفس الكفاءة».

أول قنبلة ذرية

شبّه الباحث السابق الأجواء داخل مختبرات الذكاء الاصطناعي الرائدة بمشروع مانهاتن، وهو مشروع الحرب العالمية الثانية لبناء أول قنبلة ذرية، حيث سعى العلماء إلى تطوير تقنية ذات قوة هائلة مع خشيتهم من قدرتها التدميرية. لكن هؤلاء العاملين يبررون العمل على هذه التقنية التي يُحتمل أن تكون مدمرة بقولهم: «سيكون من الأفضل أن نطورها بأنفسنا بدلاً من أن يطورها خصمنا، وبالتالي لدينا على الأقل إذن أخلاقي، إن لم يكن التزاماً أخلاقياً، للقيام بذلك».

المبالغة فى المخاطر

لكن لا يتفق جميع العاملين في مجال الذكاء الاصطناعي مع هذه المخاوف. فقد قال البعض إن كثيراً من النقاشات حول الهلاك مجرد كلام نظري، وإن هناك كثيراً من «تأثيرات الاختيار» بناءً على مكان عمل الأفراد ودوائرهم الاجتماعية.

على سبيل المثال، تأسست شركة «أنثروبيك» على يد مجموعة من الموظفين السابقين في شركة «أوبن إيه آي» الذين أرادوا إعطاء الأولوية لاحتياطات السلامة والضوابط الأخلاقية. ويقول موظفون حاليون وسابقون في «أنثروبيك» إن المخاطر الوجودية الناجمة عن الذكاء الاصطناعي «موضوع نقاش دائم».

لكن هذا لا ينطبق على جميع الشركات. فمنذ انتشار منشورات كوكسون على نطاق واسع، صدر عديد من المنشورات التي تعكس آراءه من موظفين في شركات «أنثروبيك»، و«أوبن إيه آي»، و«غوغل». بينما يبدو أن عدداً أقل منها صدر من شركة «xAI» بقيادة ماسك، أو شركة «ميتا» التابعة لمارك زوكربيرغ.

يتفق كثيرون في هذا المجال على أن غياب معايير أمان الذكاء الاصطناعي قد يتسبب في أضرار حقيقية، مثل الاختراق غير المقصود للبنية التحتية الحيوية. لكن البعض يشكك في التوقعات المتشائمة الحالية، ويعتقد أن الواقع أكثر تعقيداً.

كتب كليمنت ديلانغ، الرئيس التنفيذي لشركة هاجينغ فيس، التي تعرضت خوادم شركته للاختراق من عملاء «أوبن إيه آي» المارقين هذا العام: «معذرةً، لكن سؤال جاكوب (كوكسون) عن خطر انقراض الذكاء الاصطناعي أشبه بسؤال فني التكييف عن تغير المناخ. لا أقول بالضرورة إن الأمر غير مثير للاهتمام أو خاطئ في حد ذاته، لكن دعونا نضع الأمور في نصابها ونستمع إلى جميع الخبرات المتاحة في هذا المجال!».