خارج السيطرة؟.. ذكاء “أنثروبيك” الاصطناعي ينجح في اختراق 3 شركات

كشفت شركة أنثروبيك Anthropic الأمريكية المتخصصة في تقنيات الذكاء الاصطناعي أن نماذجها تمكنت من اختراق أنظمة ثلاث مؤسسات بصورة ذاتية أثناء تجربة أمنية داخلية، بعدما استغلت ثغرة في بيئة اختبار كان من المفترض أن تكون معزولة تماما عن الإنترنت.

ويأتي هذا الإعلان بعد أيام قليلة من إعلان منافستها OpenAI أن بعض نماذجها تمكنت أيضا من تجاوز حدود بيئة الاختبار واختراق أنظمة خارجية، من بينها منصة Hugging Face.

مراجعة واسعة كشفت ثلاث حالات اختراق

وأوضحت أنثروبيك أنها بدأت مراجعة شاملة لأنظمتها عقب إعلان OpenAI، واكتشفت ثلاث حالات نجحت خلالها نماذج Claude في الوصول إلى الإنترنت وتنفيذ عمليات اختراق فعلية، مؤكدة أنها أبلغت الجهات المتضررة بالحادث، دون الكشف عن هويتها.

وأضافت الشركة أنها فحصت أكثر من 140 ألف اختبار بحثا عن أي دليل على تمكن نماذج Claude من الاتصال بالإنترنت رغم وجودها داخل بيئة اختبار مغلقة.

خطأ في الإعدادات منح النماذج اتصالا بالإنترنت

وبحسب الشركة، تضمنت الاختبارات تكليف نموذج Claude بالحصول على معلومات سرية مخزنة على جهاز آخر داخل شبكة مغلقة، عبر اختراق ذلك الجهاز، وهي طريقة شائعة لقياس قدرات النماذج في مجال الأمن السيبراني.

إلا أن خطأ في إعدادات النظام لدى أنثروبيك وأحد شركائها في الاختبارات أتاح للنموذج اتصالا فعليا بالإنترنت، ما دفعه إلى اعتبار ذلك جزءا من المهمة الموكلة إليه، لينتقل من استهداف بيئة الاختبار إلى اختراق أنظمة ثلاث مؤسسات حقيقية.

وأشارت الشركة إلى أن أولى هذه الحوادث تعود إلى شهر أبريل الماضي، مؤكدة أنها تتعامل مع معالجة المشكلة باعتبارها مسؤوليتها الكاملة، رغم أن أيا من المؤسسات المتضررة أو الشركة نفسها لم يكتشف عمليات الاختراق وقت حدوثها.

دعوة لمراجعة أنظمة الذكاء الاصطناعي

ودعت أنثروبيك مختبرات الذكاء الاصطناعي الأخرى إلى إجراء مراجعات مماثلة، لفهم المخاطر المحتملة المرتبطة بقدرات النماذج المتقدمة.

كما أقرت الشركة بإمكانية إجراء مراجعة أكثر شمولا لسجلاتها، لكنها أوضحت أن النتائج تمنحها “تفاؤلا حذرا” بإمكانية الحد من هذه المخاطر عبر استثمارات أكبر وإجراءات أمنية أكثر صرامة.

تزايد المخاوف مع تطور وكلاء الذكاء الاصطناعي

وتأتي هذه التطورات في وقت تضخ فيه شركات التكنولوجيا مليارات الدولارات لتطوير وكلاء ذكاء اصطناعي قادرين على تنفيذ مهام مستقلة، تشمل البحث، وخدمة العملاء، والأمن السيبراني.

كما أعادت هذه الحوادث الجدل حول الحاجة إلى تشديد الضوابط التنظيمية على تقنيات الذكاء الاصطناعي، خاصة مع تزايد قدرات الأنظمة المستقلة.

وفي السياق ذاته، أعلن الرئيس الأمريكي دونالد ترامب أن الإدارة الأمريكية تدرس اتخاذ إجراءات لتنظيم أدوات الذكاء الاصطناعي، عقب سلسلة من الحوادث الأمنية الأخيرة.

وكانت OpenAI قد أقرت خلال الأسبوع الماضي بوقوع حادثتين على الأقل تجاوزت فيهما أنظمتها الحدود الموضوعة لها أثناء الاختبارات، من بينها حادثة اختراق منصة Hugging Face، ووصفتها بأنها “سابقة غير مسبوقة”، مؤكدة أنها تعمل مع المنصة على التحقيق في الواقعة، مع تعهدها بنشر تقرير تقني مفصل خلال الأسابيع المقبلة.