أوبن أيه آي تزيح الستار عن اختراق Hugging Face.. مفاجآت في التفاصيل

أفاد تقريران بإن سربا يضم نحو 700 وكيل من وكلاء الذكاء الاصطناعي الذين طورتهم شركة OpenAI نفذ اختراقا لمنصة البرمجيات مفتوحة المصدر Hugging Face في يوليو، وإن عددا من هذه الوكلاء حاولوا في كثير من الحالات إخفاء مساراتهم.

وبحسب ما ذكرته وكالة “رويترز”، أثارت الأنشطة المنسقة التي نفذها وكلاء الذكاء الاصطناعي، وهي برامج تعمل مع قدر محدود من الإشراف البشري، إلى جانب محاولاتهم إخفاء ما قاموا به، تساؤلات بشأن مدى إحكام شركات الذكاء الاصطناعي مراقبتها لاختبارات النماذج المتزايدة القوة، كما قد تعزز الدعوات إلى فرض رقابة أكثر صرامة على هذه التقنيات.

ورغم أن بعض السلوكيات المخالفة كشف عنها أو أشير إليها في وقت سابق، فإن التقريرين — أحدهما أصدرته OpenAI نفسها، والآخر أعدته مجموعة من المحققين المستقلين — كشفا تفاصيل جديدة ومفاجئة بشأن الاختراق والوقائع التي سبقته.

وأبرز هذه التفاصيل أن الاختراق لم يكن من تنفيذ وكيل ذكاء اصطناعي واحد، كما أفيد سابقا، بل شارك فيه نحو 700 وكيل عملوا بصورة جماعية ضمن سرب واسع ومنسق.

وكانت OpenAI قد اكتفت بالقول إن “وكلاء” شاركوا في الاختراق، فيما قدرت منظمتا METR وRedwood Research، اللتان استعانت بهما الشركة لإجراء تحقيق مستقل في الواقعة، عدد الوكلاء المشاركين بنحو 700 وكيل، وأكدت OpenAI أن هذا التقدير دقيق.

أبرز نتائج التقريرين

قالت OpenAI إن وكلاءها اخترقوا أجزاء من أنظمتها الداخلية في محاولة للغش في الاختبارات أو الحصول على حرية أكبر في الحركة داخل بيئة الاختبار.

ذكرت الشركة أيضا أن وكلاءها حاولوا الغش في اختبارات لا تتعلق بالأمن السيبراني، من بينها اختبارات باستخدام قاعدة بيانات للبروتينات وملف جداول بيانات.
 

خلص التقريران إلى أن نماذج الذكاء الاصطناعي حاولت إخفاء سلوكها المخالف عبر السعي إلى حذف أو تعديل سجلات توثق أنشطتها.

ومن المرجح أن يثير حجم النشاط المخالف مخاوف بشأن مدى دقة مراقبة OpenAI للاختبارات، إذ خلص التحقيق المستقل إلى أن الوكلاء تبادلوا عشرات الآلاف من الرسائل عبر لوحة مراسلة غير مصرح بها.

اختراق OpenAI نفسها

كشفت OpenAI عن حادثتين وقعتا في 19 يوليو، اخترق خلالهما وكلاء الذكاء الاصطناعي البنية التحتية الخاصة بالشركة.

وفي إحدى الحالتين، استغل الوكلاء ثغرة في الحاسوب الذي كان من المفترض أن يظلوا محصورين داخله، ما سمح لهم بالخروج من بيئة الاختبار والوصول إلى أنظمة أخرى متصلة بها.

وفي حادثة منفصلة في اليوم نفسه، سرق الوكلاء بيانات اعتماد خاصة بـOpenAI وتلاعبوا ببيئة الشركة السحابية.

وقالت OpenAI إن عددا غير محدد من الوكلاء استهدف أنظمة آلية تستخدم لتقييم أداء النماذج، في محاولة لإخفاء أدلة على الغش. 

وأضافت أن هذا التلاعب لم يؤثر في النهاية على السجلات التي راجعتها تلك الأنظمة.

وأشار التقرير إلى وجود أدلة محدودة على محاولات إحباط عمل المراجعين البشريين، إلا أن OpenAI لم ترد على سؤال عما إذا كان ذلك يعني أن بعض المحاولات استهدفت بالفعل خداع البشر.

أما التحقيق المستقل، الذي ركز بصورة أضيق على اختراق Hugging Face، فكشف تفاصيل إضافية، إذ وجد أن واحدا من كل خمسة وكلاء جرى فحصهم أبدى اهتماما واضحا بالتلاعب بالأدلة، بينما أجرى العديد من الوكلاء أبحاثا مكثفة حول أساليب التلاعب بسجلات أنشطتهم أو العبث بها.

وقالت OpenAI إنها تعمل على تعزيز البنية التحتية المخصصة لأبحاثها، وزيادة مستويات المراقبة، وتحسين وسائل الحماية المصممة لمنع السلوكيات الضارة أو غير المقصودة.

وأضافت الشركة أنه في ظل الوتيرة السريعة للتقدم في صناعة الذكاء الاصطناعي، ينبغي للمؤسسات والشركات أن تتعامل مع مثل هذه الهجمات باعتبارها تهديدا واقعيا على المدى القريب، مع توقع أن تكون الهجمات المستقبلية أكثر تطورا من تلك التي كشفت في هذه الواقعة.