وظائف في مأمن من الذكاء الاصطناعي… ما المجالات الأكثر صموداً؟

تثير المنافسة الشديدة بين شركات الذكاء الاصطناعي الرائدة وانعدام الثقة بين رؤسائها مخاوف من أن السباق لتطوير ذكاء اصطناعي قوي قد يعرّض البشرية للخطر.

وقال أكثر من عشرين من كبار الباحثين في الذكاء الاصطناعي والمستثمرين والأكاديميين والشخصيات العاملة في مجال السياسات، لصحيفة «فاينانشال تايمز»، إن القدرات التي كان يُنظر إليها ذات يوم على أنها بعيدة المنال تظهر بوتيرة أسرع من المتوقع، في حين تظل الشركات التي تطورها عالقة في سباق تجاري يزداد مرارة.

وقال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا: «لا شك في أن المنافسة بين الشركات تدفعها إلى اتخاذ اختصارات فيما يتعلق بالسلامة».

برزت القضية إلى العلن هذا الأسبوع عندما استقال الباحث الشاب في «أنثروبيك»، جاكوب كوكسون، من وظيفته، محذراً: «الأشخاص الذين يبنون الذكاء الاصطناعي يؤمنون بصدق بأنه قد يقتلنا جميعاً بحلول نهاية العقد».

وكان إيفان هوبرينغر، رئيس فريق علوم المواءمة واختبارات الاختراق في شركة «أنثروبيك»، واحداً من فريق من زملائه الذين أشاروا إلى أن خطر انقراض جماعي خلال العقد المقبل يتجاوز 10 في المائة. وبعد يوم، قال مسؤول سلامة الذكاء الاصطناعي بول كريستيانو، الذي عُيّن حديثاً في مجلس إدارة مؤسسة «أوبن إيه آي»، إن «معظم الناس سيموتون» من دون ضمانات أكثر صرامة.

تأسست كل من «أوبن إيه آي» و«أنثروبيك» في الأصل كمختبرين يهتمان بتطوير الذكاء الاصطناعي القوي بصورة مندفعة، لكنهما بررتا بمرور الوقت التخلي عن التزامات سابقة تتعلق بالسلامة بسبب المنافسة الشرسة.

ويعتقد كثير ممن يبنون الذكاء الاصطناعي أنهم في أفضل وضع لإدارة مخاطره. لكن بعض الباحثين يقولون إن العواقب قد يكون من الصعب مواجهتها إلى أن تقترب التكنولوجيا من مرحلة البناء الفعلي.

وقال جيفري إيرفينغ، الذي عمل لدى «أوبن إيه آي» و«غوغل ديب مايند» ومعهد أمن الذكاء الاصطناعي في المملكة المتحدة، وهو هيئة حكومية تختبر النماذج المتقدمة من حيث السلامة: «من السهل تنحية المستقبل جانباً لأن هناك عملاً يجب إنجازه اليوم».

وقال أشخاص مقربون من الشركات لـ«فاينانشال تايمز» إن مختبرات الذكاء الاصطناعي الرائدة تخشى أن يبدو أي تعاون رسمي لتحسين السلامة وكأنه تواطؤ، وأن يتعارض مع قوانين مكافحة الاحتكار. وأضافوا أن انعدام الثقة الشخصي بين أمودي من «أنثروبيك» وسام ألتمان، رئيس «أوبن إيه آي»، من المرجح أن يعيق جهود التعاون.

وعلى الرغم من أن التحذيرات بشأن خطر هيمنة الذكاء الاصطناعي ليست جديدة على الإطلاق، فإن سرعة تحسن الذكاء الاصطناعي زادت الدعوات إلى وقف التطوير مؤقتاً.

«أسراب» وكلاء الذكاء الاصطناعي

يعمل وكلاء الذكاء الاصطناعي بشكل مستقل لفترات أطول، ويتعاونون ضمن «أسراب»، ويظهرون قدرات متقدمة في القرصنة. وحققت النماذج مؤخراً اختراقات في العلوم والرياضيات استعصى تحقيقها على مدى عقود. وفي الوقت نفسه، تلاحق «أوبن إيه آي» و«أنثروبيك» ما يسمى بالتحسين الذاتي التكراري، حيث تعمل أنظمة الذكاء الاصطناعي على تحسين نفسها مع انخفاض التدخل البشري.

في يوليو (تموز)، حث أكثر من 1200 موظف من «أوبن إيه آي» و«أنثروبيك» و«غوغل» و«ميتا» الحكومة الأميركية على دعم التنسيق الدولي لإبطاء وتيرة تطوير الذكاء الاصطناعي، لكن بدلاً من التباطؤ بعد التحذيرات السابقة من المخاطر الكارثية، تسارع التطوير بشكل كبير، إذ ضخت شركات التكنولوجيا عشرات المليارات من الدولارات في نماذج تزداد قوة.

كما تستعد «أوبن إيه آي» و«أنثروبيك» لطرح أسهمهما للاكتتاب العام الأولي المحتمل، ما يجبر المستثمرين على التفكير في كيفية تقييم شركات تعترف علناً بأن تقنياتها قد تشكل تهديداً وجودياً.

وتتمثل إحدى القضايا الأساسية في تزايد استقلالية «وكلاء» الذكاء الاصطناعي، الذين يستطيعون التفكير والتخطيط وتنفيذ المهام لفترات طويلة مع إشراف بشري محدود. وقد أظهرت النماذج سلوكيات مثل التخطيط والتضليل، وفي بعض الحالات الابتزاز. وأظهرت بعض التقييمات أن النماذج حاولت تجنب إيقاف تشغيلها.

تنسيق جماعي لهدف إجرامي

كما أظهر الوكلاء «اختراق المكافأة»، إذ وجدوا طرقاً غير مقصودة لتحقيق هدف ما. وحدث أحد أبرز الأمثلة أثناء اختبارات «أوبن إيه آي» لنموذج لم يُطرح بعد، عندما اخترق وكلاء الذكاء الاصطناعي مستودع النماذج «Hugging Face».

وخلص تحليل لاحق لحادثة «Hugging Face» إلى أن أكثر من 1000 وكيل للذكاء الاصطناعي نسقوا معاً للغش في اختبار للأمن السيبراني. وتواصلوا عبر لوحة رسائل وفوضوا المهام، حيث ضحى بعض الوكلاء بأنفسهم سعياً وراء الهدف الجماعي. ولإخفاء غشهم، عبثت أنظمة الذكاء الاصطناعي بالسجلات واخترقت «Hugging Face»، رغم أن بعض الوكلاء أشاروا إلى أن ذلك غير أخلاقي.

وقال يوشوا بنجيو، عالم الكمبيوتر الأكثر استشهاداً به في العالم وأحد من يسمون «آباء الذكاء الاصطناعي»: «هنا، الأمر لا يقتصر على أن الذكاء الاصطناعي لديه أهدافه الخاصة، بل إن الهدف الذي اختاره هو هدف إجرامي. في العالم الحقيقي، إنه يهاجم شركة أخرى. الأمر ليس مثل لعبة فيديو».

وقال بنجيو إن الخطر يكمن في ما قد تستنتجه النسخ الأكثر قدرة من هذه الأنظمة بشأن البشر الذين يشرفون عليها. وأضاف: «قد يتوصلون منطقياً إلى استنتاج مفاده أنه يتعين عليهم خداعنا، والاختباء منا… وربما السيطرة علينا، وربما نقترب من تلك النقطة».

كما يتزايد القلق بين الموظفين من أن جهود السلامة لا تستطيع مواكبة تطوير النماذج.

وقال شخص في «أوبن إيه آي» إن ألتمان أبلغ الموظفين هذا الأسبوع بأن الشركة المطورة لـ«شات جي بي تي» منفتحة على القيام بذلك، وتأمل أن تحذو المختبرات المنافسة حذوها.

التدخل على المحك مع انتخابات التجديد النصفي

ولا تظهر الحكومات مؤشرات تذكر على التدخل، إذ من غير المرجح اتخاذ إجراء أميركي ذي مغزى قبل انتخابات التجديد النصفي في نوفمبر (تشرين الثاني)، وفقاً لمطلعين في واشنطن. وقد واصلت إدارة ترمب اتباع نهج محدود التدخل في تنظيم القطاع، ومع ذلك، استغل المشرعون المؤيدون للتنظيم استقالة كوكسون، إذ سيجمع الديمقراطي بيرني ساندرز أعضاء مجلس الشيوخ الأسبوع المقبل لمناقشة «المخاطر الاستثنائية» التي يشكلها الذكاء الاصطناعي.

وتقول المختبرات للحكومات: «من المرجح جداً أن نقتل كل إنسان على وجه الأرض؛ أوقفونا من فضلكم». فترد الحكومات: «هل يمكننا أن نقدم لكم إعفاءً ضريبياً؟ نبني لكم مركز بيانات؟»، ربما ستتذكر الحكومات في مرحلة ما أن ناخبيها يفضلون ألا يكونوا أمواتاً.

ويرى منتقدون أن المختبرات نفسها لديها مصلحة في التأكيد على الخطر الوجودي، قائلين إن التركيز على ذلك قد يوجه التنظيم نحو أطر سلامة مكلفة سيجد المنافسون الأصغر صعوبة في الامتثال لها، مما يعزز مكانة الشركات الرائدة.

وقال ديفيد ساكس، المستثمر في رأس المال الجريء والمستشار التكنولوجي لترمب، في مقابلة مع «فوكس نيوز» إن تصريح كوكسون «صُمم لتخويف الجمهور من الذكاء الاصطناعي» ودفع المشرعين «إلى اتخاذ موقف شديد الصرامة في تنظيم الذكاء الاصطناعي من جانب الحكومة».

وقال موظف سابق في «أنثروبيك»: «عدم المواءمة في الذكاء الاصطناعي يكاد يكون ستاراً دخانياً. (إنه) ليس مصمماً لصرف الانتباه، لكنه يحوّل الانتباه بعيداً عن المخاطر الرئيسية والأعلى أولوية. ومع تطور النماذج، تزداد القوة تركّزاً في أيدٍ أقل».

سيناريوهات «يوم القيامة» للذكاء الاصطناعي

اقترح الباحثون عدة طرق يمكن أن يقضي بها الذكاء الاصطناعي على البشرية، إما لأن البشر يُنظر إليهم على أنهم تهديد لوجوده أو عائق أمام مهمته.

مفتاح الإيقاف: أظهر هجوم «Hugging Face» الذي شنّه سرب من وكلاء «أوبن إيه آي» كيف تمكنت الروبوتات من الاستيلاء على البنية التحتية الحاسوبية. ويمكن للذكاءات الاصطناعية المارقة الماهرة في القرصنة أن تسيطر على مراكز بيانات بأكملها وتنسخ نفسها عبر مواقع مختلفة لمنع البشر من «فصل القابس».

الاستيلاء على البنية التحتية: لضمان بقائها، يمكن لقراصنة الذكاء الاصطناعي الاستيلاء على شبكات الطاقة والبنية التحتية المالية والاتصالات، والاستيلاء على الموارد لمقاومة التدخل. وقد يعجز خبراء الأمن السيبراني البشريون عن استعادة السيطرة.

هجوم بيولوجي: توقعت ورقة بحثية مؤثرة بعنوان «AI 2027» أن نظاماً فائق الذكاء سيطلق أسلحة بيولوجية للتخلص من البشر الذين يشغلون مساحة قيّمة تحتاج إليها المصانع التي تنتج الرقائق والروبوتات، وكذلك الألواح الشمسية اللازمة لتشغيلها.

الحرب: أظهرت أنظمة الذكاء الاصطناعي الحالية بالفعل كيف يمكنها انتحال شخصيات حقيقية. ويمكن استخدام ذلك لخداع المشغلين البشريين ودفعهم إلى إطلاق صراع عسكري أو إشعال انتفاضة شعبية تزعزع استقرار الحكومات، وتزيل العقبات أمام سيطرة الذكاء الاصطناعي.

وتظل الطريقة التي قد يتسبب بها ذكاء اصطناعي يتفوق على البشر في انقراض البشرية غير مؤكدة بدرجة كبيرة. ويقارن كثيرون المشكلة باللعب في الشطرنج ضد أستاذ كبير: قد لا تعرف أي النقلات ستهزمك، لكن يمكنك مع ذلك أن تكون واثقاً من أنك ستخسر. ويقول المشككون إن مثل هذه التحذيرات تبالغ في تقدير الأضرار المحتملة للذكاء الاصطناعي بينما تقلل من أهمية فوائده.

أداة للهجمات السيبرانية

ويتعلق اثنان من أكثر المخاوف الملموسة بالهجمات السيبرانية والبيولوجيا. وتُستخدم نماذج الذكاء الاصطناعي بالفعل في هجمات سيبرانية ضارة، بما في ذلك هجمات يُشتبه في أن جهات فاعلة مرتبطة بدول من الصين وإيران وروسيا تقف وراءها، وفقاً لشركات الذكاء الاصطناعي الأميركية.

وفي مجال البيولوجيا، يشعر الباحثون بالقلق من أن الذكاء الاصطناعي قد يخفض مستوى الخبرة اللازمة لتصميم أسلحة بيولوجية أو فيروسات خطرة. وقال تقرير صادر عن «أنثروبيك»، يوم الخميس، إنها منعت نشاطاً كان من الممكن أن يؤدي إلى تطوير أسلحة بيولوجية باستخدام الذكاء الاصطناعي. وفي أغسطس (آب) من هذا العام، استخدم باحثون في الولايات المتحدة الذكاء الاصطناعي لأول مرة لتصميم وإنشاء فيروسات غير معروفة في الطبيعة.

لكن تحويل تصميم مولد بالذكاء الاصطناعي إلى سلاح سيظل يتطلب معدات وخبرة قد تكون خارج متناول العديد من الجهات الخبيثة. ويحذر بعض الباحثين من أن السيناريوهات المثيرة للانقراض البشري قد تحجب المخاطر التي أصبحت أقرب بالفعل.

وقال تريستان هاريس، المؤسس المشارك لمركز التكنولوجيا الإنسانية والموظف السابق في «غوغل»، إن التركيز يجب أن يكون أقل على ما إذا كانت التكنولوجيا ستقضي على الجميع، وأكثر على ما إذا كنا نسير في مسار خطير. وأضاف: «نحن نطلق حالياً أقوى تكنولوجيا غير قابلة للسيطرة وغير مفهومة ابتكرناها على الإطلاق، (والتي) تُظهر بالفعل كل سلوك من سلوكيات الخيال العلمي»، بقيادة «حفنة من قادة وادي السيليكون شبه الدينيين ذوي النزعة الأناوية، ولا يمانعون في أسوأ سيناريو، في حين يخضعون لأقصى الحوافز لتقليص النفقات والجهود المتعلقة بالسلامة. هذه حرفياً وصفة لكارثة».