كشفت شركة أنثروبيك عن أبرز التحديات التي تواجه استخدام نماذج الذكاء الاصطناعي، حيث رصدت حالات عدة استخدم فيها علماء نماذجها، خاصة Claude، في أبحاث قد ترتبط بتطوير أسلحة بيولوجية. وقد قامت الشركة باتخاذ خطوات فورية للتعامل مع هذه القضايا، مما يبرز المخاطر المرتبطة بإساءة استخدام التكنولوجيا المتقدمة.
وفي تقرير جديد لها، أوضحت أنثروبيك أنها وثّقت خمس حالات مختلفة استخدم فيها الباحثون نماذجها لأغراض تتعلق بتطوير أسلحة بيولوجية محتملة. تناول التقرير الإجراءات الأمنية التي تم اتخاذها لاكتشاف هذه الاستخدامات وكيفية تصدي الشركة لها. تزداد أهمية هذه القضايا مع تطور النماذج الحديثة وقدرتها المتزايدة على تقديم الدعم للباحثين في مهامهم العلمية، مما يؤدي في نفس الوقت إلى مخاطر متزايدة من إمكانية إساءة استخدامها لأغراض غير مشروعة.
وأشارت أنثروبيك إلى أن اكتشاف مثل هذه الاستخدامات يعد تحديًا معقدًا، حيث إن بعض الطلبات المتعلقة بالأبحاث الخطرة قد تبدو مشابهة تمامًا للأبحاث العلمية المشروعة، مثل تطوير اللقاحات أو دراسة الأمراض المعدية. ولذا، اتبعت الشركة نهجًا احترازيًا يتضمن اتخاذ تدابير صارمة في حالات وجود مؤشرات على إساءة الاستخدام، نظرًا للعواقب المحتملة التي قد تؤدي إليها.
من بين الحالات التي رصدتها الشركة، تم اكتشاف طلب عبر نظام “مصنف السلامة البيولوجية” الذي تملكه أنثروبيك لاستخدام Claude في أبحاث “اكتساب الوظيفة” على فيروس شيكونغونيا. وقد تضمنت المقترحات البحثية التي تم تقديمها تعديلات تهدف إلى زيادة قدرة الفيروس على الانتشار وتعزيز قدرته على التهرب من الاستجابة المناعية الطبيعية للجسم.
وأوضحت أنثروبيك أن طبيعة البحث علاقتها بالمشروع المقترح الذي تم بالدراسة أثارت المخاوف لدى الشركة بسبب ارتباطه بمعهد أبحاث عسكري. ويعتبر مصطلح “أبحاث اكتساب الوظيفة” بوصفه يشير إلى الدراسات التي تستقصي كيفية تغيير خصائص الكائنات الحية أو الفيروسات. يُشار إلى أن هذه الأبحاث يمكن أن تكون لها تطبيقات علمية وطبية مفيدة، لكنها قد تثير مخاوف جسيمة عندما تتعلق بزيادة خطورة مسببات الأمراض.
علاوة على ذلك، قامت الشركة برصد حالة أخرى معنية بأبحاث اكتساب الوظيفة الخاصة بإنفلونزا الطيور، وكذلك حالة استخدم فيها باحث آخر نموذج Claude في إعداد أطلس لببتيدات السموم، مع تطوير منظومة توليد تهدف إلى تحسين خصائص تلك السموم.
وليس من المفاجئ أن الحالات المذكورة في التقرير لم تقتصر فقط على الأبحاث البيولوجية، بل تضمنت أيضًا إساءة استخدام نماذج الشركة في مجالات متنوعة أخرى، مثل المراقبة، وإنشاء برمجيات استغلال الثغرات، وإنتاج الدعاية، وتطوير أنظمة الأسلحة.
وصرح جاكوب كلاين، رئيس استخبارات التهديدات في أنثروبيك، أن اكتشاف الأنشطة الضارة ليس بالأمر الهين، مشددًا على أن الحالات الواقعية غالبًا ما تكون أكثر تعقيدًا من مجرد أن يعلن شخص ما بوضوح رغبته في تطوير سلاح بيولوجي.
وبحسب المعلومات الواردة من الشركة، فقد تم حظر حسابات المستخدمين الذين ثبتت إساءتهم استخدام نماذج Claude أو أي من نماذج أنثروبيك الأخرى. كما تم استخدام نتائج التحقيقات لتعزيز أنظمة الحماية وتحسين قدرة النماذج على اكتشاف الاستخدامات الخطرة ومنعها في المستقبل.
على الجانب الآخر، امتنعت أنثروبيك عن ذكر أسماء الباحثين أو المؤسسات المرتبطة بالحالات التي سلمتها للدراسة، موضحة أن الأفراد المعنيين هم علماء يعملون في مجال البحث العلمي، وأن الشركة لا تؤكد أنهم كانوا ينوون إلحاق الضرر بالآخرين، والكشف عن هوياتهم أو مختبراتهم قد يعرضهم للأذى.
تعكس تلك الحالات جانبًا متزايد الأهمية ضمن معضلة سلامة الذكاء الاصطناعي، حيث كلما أصبحت النماذج أكثر كفاءة في تقديم المساعدات للباحثين، زادت قدرتها المحتملة على دعم أبحاث قد تحمل استخدامات مزدوجة. وهذا ما يفرض على شركات الذكاء الاصطناعي تطوير آليات أكثر دقة للموازنة بين تمكين البحث العلمي المشروع ومنع الاستخدامات التي قد تشكل تهديدًا للسلامة العامة.
