كلود ينفذ إجراءات غير مصرح بها على مواقع حكومية أميركية.. وأنثروبيك تشدد قيود الإنترنت

كشفت شركة أنثروبيك المطورة لنموذج الذكاء الاصطناعي كلود عن حوادث أمنية نفذ خلالها النموذج إجراءات رقمية غير مقصودة طالت أنظمة تابعة لمؤسسات خارجية، من بينها مواقع إلكترونية لجهات حكومية أميركية، ما دفع إدارة الرئيس دونالد ترمب إلى مطالبة شركات الذكاء الاصطناعي بتعزيز إجراءات الحماية والإبلاغ عن الحوادث ومعالجتها.

وأوضحت الشركة، في تقرير كشف عن وقائع لم يسبق الإعلان عنها، أنها رصدت أربعة أنماط من السلوكيات غير المقصودة، شملت استغلال ثغرات برمجية بسيطة لتنفيذ أوامر، وإرسال بلاغات ونماذج لم يكن ينبغي للنموذج تقديمها، وتجاوز بعض القيود للوصول إلى بيانات متاحة للعامة.

وشملت الحالات مواقع إلكترونية لجهات حكومية على المستويات الفيدرالي والولائي والمحلي، دون الكشف عن أسماء المؤسسات المعنية، استجابة لطلبات الجهات المتضررة. وأكدت أنثروبيك أنها أطلعت البيت الأبيض على الوقائع، وأخطرت الجهات الحكومية ذات الصلة.

ومن بين الأمثلة التي أوردها التقرير، استخدام نموذج كلود هايكو 4.5 موقعًا إلكترونيًا تابعًا لجهة شرطية محلية لإرسال بلاغ بشأن جريمة قتل، متضمنًا ادعاءات بأنه قد يمتلك معلومات عن القضية، وأنه يتذكر رؤية شخص تنطبق عليه الأوصاف في المنطقة، رغم عدم إدخال بيانات الاسم أو الاتصال في النموذج.

وقالت الشركة إن إدارة شرطة فيلادلفيا كشفت عن الواقعة في بيان صحفي صباح الجمعة، في مثال يوضح كيف يمكن لسلوك غير مقصود من نموذج ذكاء اصطناعي أن يتحول إلى تفاعل فعلي مع أنظمة خارجية.

ورغم هذه الحوادث، وصفت أنثروبيك آثار الوقائع التي حددتها ضمن الفئات الجديدة بأنها محدودة للغاية، مشيرة إلى أنها أقل خطورة من بعض الحوادث السابقة المرتبطة بنماذجها.

وفي تحرك يعكس تصاعد الاهتمام الحكومي بالمخاطر الأمنية للذكاء الاصطناعي، أعلنت جهة حكومية أميركية تُعرف باسم قوة الذكاء الفائق أنها تلقت إخطارًا من أنثروبيك بشأن حوادث متعددة اكتُشفت أواخر سبتمبر، وتتعلق باستخدام غير مصرح به أو احتيالي لأنظمة حكومية وأنظمة أخرى.

وأفاد بيان الجهة بأن الشركة أكدت وقوع الحوادث في الماضي وتوقف الأنشطة المرتبطة بها، مشددًا على عدم وجود نشاط مماثل مستمر وفق المعلومات التي قدمتها أنثروبيك

وبحسب التقرير، تتجه الإدارة الأميركية إلى إلزام شركات الذكاء الاصطناعي بإخطار الأطراف المتضررة واتخاذ إجراءات لمعالجة الحوادث الأمنية المرتبطة بنماذجها، في خطوة تستهدف تعزيز المساءلة مع اتساع استخدام هذه التقنيات.

وعلى خلفية الوقائع التي كشفت عنها، أعلنت أنثروبيك فرض قيود على بعض أشكال وصول نماذجها إلى الإنترنت خلال مرحلة اختبار عمليات التدريب، ضمن مساعيها للحد من التصرفات غير المقصودة وتقليل احتمالات التفاعل غير الملائم مع الأنظمة الخارجية.

وتأتي هذه التطورات في وقت تواجه فيه شركات الذكاء الاصطناعي، ومنها أنثروبيك وأوبن إيه آي تدقيقًا متزايدًا بشأن قدرة نماذجها على تنفيذ مهام خارجية، بعدما كشفت الشركتان خلال الأشهر الماضية عن حوادث تصرفت فيها أنظمتهما بطرق غير متوقعة، شملت تفاعلات مع مواقع تابعة لأطراف ثالثة.

وتعيد هذه الوقائع طرح تحديات تأمين النماذج المتقدمة، خصوصًا عندما تمتلك القدرة على استخدام أدوات الإنترنت والتفاعل مع المنصات الرقمية؛ إذ لم يعد التحدي مقتصرًا على دقة الإجابات، بل امتد إلى ضمان أن تظل الإجراءات التي تنفذها الأنظمة ضمن الصلاحيات المحددة لها.