ranzware
تعمل شركة أنثروبيك Anthropic، على تطوير تقنية جديدة تهدف إلى تسهيل اكتشاف النصوص التي ينتجها نموذج الذكاء الاصطناعي Claude، من خلال وضع علامة مائية غير مرئية داخل المحتوى.
وتعتمد الفكرة على تغيير الطريقة التي يختار بها Claude الكلمات أثناء إنشاء النص، بحيث ينتج نمطا إحصائيا يمكن التعرف عليه لاحقا.
وتختبر الشركة حاليا مدى قدرة هذه العلامة المائية على الاستمرار حتى بعد إجراء تعديلات على النص أو ترجمته.
من الناحية التقنية، تبدو الفكرة مفيدة، خصوصا مع الانتشار المتزايد للمحتوى الذي ينتجه الذكاء الاصطناعي، لكن المشكلة تظهر عندما لا يكون Claude هو من كتب المحتوى من الأساس، بل استخدم فقط للمساعدة في جزء من العملية.
ماذا لو كان دور Claude مجرد ترجمة؟
على سبيل المثال، قد يكتب شخص مقالا كاملا باللغة الإسبانية، بما في ذلك الأفكار والبحث والحجج، ثم يستخدم Claude لترجمته إلى الإنجليزية.
في هذه الحالة، قد يحمل النص الإنجليزي العلامة المائية الخاصة بـClaude، رغم أن المحتوى الأصلي لم يكتبه الذكاء الاصطناعي.
والأمر نفسه ينطبق على مهام أخرى أصبحت شائعة، مثل تصحيح الأخطاء النحوية، وإعادة صياغة بعض الجمل، واختصار النصوص، وتغيير أسلوب الكتابة، أو تحسين نص تم تحويله من تسجيل صوتي إلى كتابة.
وهنا تكمن المشكلة الأساسية: وجود علامة مائية قد يثبت أن Claude تعامل مع النص، لكنه لا يثبت بالضرورة أن Claude هو من أنشأه.
وهذا فرق مهم، خصوصا في البيئات التعليمية أو المهنية، حيث قد يتم استخدام أدوات الكشف عن الذكاء الاصطناعي للحكم على مصدر المحتوى.
مشكلة أدوات الكشف لم تحل بعد
تأتي مخاوف أنثروبيك في وقت لا تزال فيه أدوات اكتشاف المحتوى المولد بالذكاء الاصطناعي محل جدل بسبب معدلات الخطأ المرتفعة.
وتحذر إرشادات MIT Sloan من إمكانية أن تؤدي هذه الأدوات إلى نتائج خاطئة واتهام طلاب باستخدام الذكاء الاصطناعي رغم كتابتهم أعمالهم بأنفسهم.
كما ظهرت بالفعل حالات اضطر فيها طلاب إلى الدفاع عن أعمالهم بعد أن صنفتها أنظمة آلية على أنها مولدة بالذكاء الاصطناعي، قبل أن يتبين في بعض الحالات أن التصنيف كان خاطئا.
لكن علامة Claude المائية تختلف عن أدوات الكشف التقليدية، فبدلا من محاولة تحليل النص وتقدير احتمالية كتابته بواسطة الذكاء الاصطناعي، تضع أنثروبيك إشارة مقصودة داخل مخرجات Claude يمكن البحث عنها لاحقا.
ومن المفترض أن يجعل ذلك عملية التعرف على النصوص التي مرت عبر Claude أكثر دقة، إلا أن دقة التعرف لا تحل مشكلة تفسير النتيجة.
الذكاء الاصطناعي يدخل في دائرة مغلقة
أدى انتشار أدوات الكشف إلى ظهور سوق جديدة لأدوات تهدف إلى جعل النصوص تبدو أكثر بشرية وأقل قابلية للاكتشاف.
وبعض الطلاب يستخدمون هذه الأدوات حتى مع النصوص التي كتبوها بأنفسهم، خوفًا من أن تصنفها أدوات الكشف على نحو خاطئ باعتبارها محتوى مولدا بالذكاء الاصطناعي.
وبذلك يصبح المشهد معقدا: شخص يكتب نصا بنفسه، ثم يستخدم أداة ذكاء اصطناعي لتعديله حتى لا يشتبه نظام آخر في أنه مولد بالذكاء الاصطناعي، بينما تعمل شركات الكشف على تطوير تقنيات للتعرف على تلك الأدوات أيضا.
وتبدو العملية وكأن أنظمة الذكاء الاصطناعي تتنافس فيما بينها لتحديد مدى تدخل بعضها في إنتاج النصوص.
هل العلامة المائية كافية؟
هناك استخدامات منطقية للعلامات المائية. فقد تكون مفيدة في التعرف على كميات كبيرة من المحتوى المولد آليا، أو المساعدة في رصد المعلومات المضللة، أو تحديد نصوص جرى إنتاجها بواسطة الذكاء الاصطناعي دون الإفصاح عن ذلك.
لكن استخدامات أدوات مثل Claude أصبحت أوسع بكثير من كتابة المحتوى بالكامل. فقد يستخدمها شخص لترجمة بحث كتبه بنفسه، أو تدقيق رسالة، أو تلخيص دراسة، أو تحسين إمكانية قراءة نص، أو المساعدة في كتابة جزء من برنامج.
Add comment