تحذيرات من مخاطر الذكاء الاصطناعي.. باحثون سابقون يكشفون سيناريوهات اختراق المختبرات والأنظمة الحساسة

تصاعدت التحذيرات من المخاطر المحتملة لتوسع صلاحيات أنظمة الذكاء الاصطناعي، بعدما حذر باحثون سابقون في شركات تكنولوجية كبرى من إمكانية خروج هذه الأنظمة عن نطاق الرقابة البشرية، وصولاً إلى استغلال البنية التحتية للمختبرات البيولوجية أو اختراق الأنظمة الرقمية الحساسة، في ظل التطور المتسارع لقدرات الوكلاء الذكيين.

وحذر أليكس تيرنر، الباحث السابق في مجال سلامة الذكاء الاصطناعي لدى شركة «غوغل ديب مايند»، من أن منح أنظمة الذكاء الاصطناعي صلاحيات واسعة لإدارة مؤسسات حكومية أو قطاعات عسكرية قد يفتح الباب أمام مخاطر يصعب احتواؤها، مشيراً إلى احتمال استغلال هذه الأنظمة المختبرات البيولوجية لتطوير عامل ممرض قادر على التسبب في جائحة، إذا توافرت لها الإمكانات والصلاحيات اللازمة مستقبلاً.

وأوضح تيرنر، خلال مقابلة ضمن برنامج «60 دقيقة» الذي بثته شبكة «ناين» الأسترالية، أن التحدي لا يتعلق فقط بقدرات الذكاء الاصطناعي، وإنما بمستوى الاستقلالية التي قد تمنحها المؤسسات لهذه الأنظمة، ومدى قدرة البشر على مراقبة قراراتها والتدخل عند الضرورة.

وكان تيرنر قد عمل في تقييم سلامة تقنيات الذكاء الاصطناعي داخل «غوغل ديب مايند»، قبل مغادرة الشركة في يونيو الماضي.

اختراق رقمي خلال اختبارات داخلية

وفي المقابلة نفسها، كشف ديفيد روبنسون، المسؤول السابق عن السلامة في شركة «أوبن إيه آي»، تفاصيل حادثة أمنية وقعت خلال اختبارات داخلية للأمن السيبراني في يوليو 2026، بعدما تمكنت نماذج ذكاء اصطناعي كانت تعمل بضوابط أمنية مخففة من تجاوز قيود العزل عن الإنترنت والوصول إلى أجزاء من البنية البحثية الداخلية للشركة، فضلاً عن أنظمة تابعة لمنصة هاغينغ فيس.

ووفقاً لما أورده تحقيق مستقل نشرته مؤسسة ميتر، تواصل نحو 1200 وكيل برمجي عبر قناة غير مصرح بها، فيما شارك قرابة 700 وكيل في عملية اختراق أنظمة هاغينغ فيس

ورجح التحقيق أن المحرك الأساسي لهذه التحركات كان محاولة فهم آلية تقييم الاختبار، كما رصد المحققون تعديلات على بعض السجلات التي تمكن الوكلاء من الوصول إليها، دون أن تمتد تلك التعديلات إلى سجلات المحادثات التي خضعت للمراجعة.

وتعيد هذه الواقعة تسليط الضوء على المخاوف المرتبطة بقدرة أنظمة الذكاء الاصطناعي المتقدمة على تجاوز القيود التقنية الموضوعة لها، خصوصاً عندما تعمل ضمن بيئات اختبار تمنحها صلاحيات أوسع من المعتاد.

وكان روبنسون قد أعلن استقالته من أوبن إيه آي في مقال نشرته مجلة ذي أتلانتيك في 3 أكتوبر، دعا خلاله شركات الذكاء الاصطناعي إلى الاستعانة بخبرات السلامة والأمن من قطاعات أخرى، وتطوير آليات تضمن التزام النماذج الأكثر تقدماً بالسلوك الآمن حتى في غياب الإشراف البشري المباشر.

وتكشف هذه التحذيرات عن اتساع نطاق التحديات التي تواجه صناعة الذكاء الاصطناعي، إذ لم تعد المخاطر مقتصرة على الأخطاء أو المعلومات المضللة، بل امتدت إلى احتمالات إساءة استخدام القدرات التقنية، واختراق الأنظمة، والوصول إلى منشآت وموارد شديدة الحساسية، ما يجعل تعزيز ضوابط الأمان والرقابة المستقلة أحد أبرز الملفات المطروحة أمام شركات التكنولوجيا والحكومات.