غضب بين مستخدمي Claude بعد تفعيل نظام العلامة المائية الخفية من شركة Anthropic

أثار قرار شركة Anthropic بدمج علامة مائية خفية داخل النصوص المُولّدة عبر نموذج Claude موجة مفاجئة من إلغاء الاشتراكات من قِبل المستخدمين الغاضبين. يجعل هذا النظام الجديد، المُصمم للامتثال لقانون الذكاء الاصطناعي الخاص بالاتحاد الأوروبي، من الصعب جداً على الأفراد تمرير النصوص المكتوبة بمساعدة الذكاء الاصطناعي على أنها عمل بشري خالص. يُعد هذا التحديث بالغ الأهمية للكتّاب المستقلين والطلاب والمطورين الذين يعتمدون على المنصة، حيث يغيّر جذرياً طريقة استخدامهم الآمنة للأداة في البيئات المهنية أو الأكاديمية دون إثارة أدوات اكتشاف الذكاء الاصطناعي.

اندلعت موجة الغضب فور الإعلان عن الميزة، حيث لجأ المستخدمون إلى منصات التواصل الاجتماعي لمشاركة لقطات شاشة تُظهر إلغاء اشتراكاتهم. وقد أشار المؤثر في مجال الرياضيات والذكاء الاصطناعي John Ennis علناً إلى أن "فكرة العلامة المائية السخيفة" هي السبب وراء تركه للمنصة. وأشار آخرون إلى مقال نُشر مؤخراً في صحيفة Wall Street Journal حول الممارسات التجارية السابقة لزوجة الرئيس التنفيذي Dario Amodei كسبب إضافي لاستيائهم. وعلى الرغم من هذا الغضب الواسع، صرّحت الشركة لموقع Business Insider بأنها لم تشهد في الواقع أي زيادة ملموسة في معدلات الإلغاء الإجمالية منذ الإعلان عن الميزة.

إذا كنت تعتقد أن وضع العلامة المائية في Claude يتضمن استبدال أحرف أو إضافة رموز مخفية بطريقة بدائية، فإن الواقع أكثر تعقيداً بكثير. تعتمد شركة Anthropic على التقنية الأساسية المستمدة من ورقة بحثية نُشرت في عام 2024 حول نظام SynthID، وهي نفس البنية التقنية التي تستخدمها شركة Google لاكتشاف النصوص المُولّدة آلياً. يعمل النظام من خلال التأثير بمهارة على خيارات النموذج للرموز (Tokens) بناءً على مفتاح سري معقد وعشوائي.

عندما يقوم نموذج Claude بتوليد نص، فإنه يختار باستمرار بين كلمات متساوية الصلاحية. على سبيل المثال، إذا كانت الكلمة المنطقية التالية يمكن أن تكون "رمادي" أو "غائم"، فإن المفتاح السري يوجّه النموذج نحو تفضيل إحصائي محدد. ونظراً لأن هذه الخيارات تعتمد بشكل كبير على السياق، لا يمكن للقراء البشريين اكتشاف هذا النمط. ومع ذلك، عبر فقرة نصية طويلة بما يكفي، تتراكم هذه الرموز المفضلة إحصائياً، مما يسمح لواجهة برمجة تطبيقات (API) مخصصة للاكتشاف بتأكيد تدخل نموذج Claude بدرجة عالية من اليقين. وأشارت الشركة إلى أن هذه العملية لها تأثير "لا يُذكر" على سرعة التوليد وتكلفة الرموز.

من أبرز الاكتشافات الحاسمة في التوضيح التقني الذي قدمته شركة Anthropic هو كيفية تطبيق العلامة المائية على المستخدمين الذين يعتمدون على نموذج Claude فقط لتحسين كتاباتهم الأصلية. لا يفرّق النظام بشكل صارم بين توليد محتوى جديد من الصفر والتعديل المكثف على مسودة قدمها إنسان.

اعتماداً على طول النص ومدى كثافة التعديلات التي أجراها نموذج Claude، قد لا تكون تلك التغييرات كافية لجعل تدخل الذكاء الاصطناعي غير قابل للاكتشاف.

- شركة Anthropic

يعني هذا أن المحترفين الذين يستخدمون الذكاء الاصطناعي لمجرد تنقيح القواعد النحوية أو إعادة هيكلة الفقرات قد يجدون أعمالهم مصنفة بواسطة أدوات اكتشاف الذكاء الاصطناعي. في النصوص القصيرة أو بيئات البرمجة شديدة التنظيم التي تحتوي على القليل من الغموض، تكون العلامة المائية أقل فعالية، ولكن بالنسبة للمحتوى الطويل، يظل خطر الاكتشاف مرتفعاً.

يكشف التمرد الصاخب ضد آلية التتبع الجديدة في نموذج Claude عن تناقض هائل في السوق الحالي للذكاء الاصطناعي التوليدي (Generative AI). فبينما يشيد المستخدمون علناً بالذكاء الاصطناعي لفوائده في زيادة الإنتاجية، تعتمد شريحة كبيرة من قاعدة العملاء سراً على عدم قدرة الآخرين على اكتشاف التقنية لخداع العملاء أو أصحاب العمل أو المؤسسات الأكاديمية. إن حقيقة قيام المستخدمين بإلغاء اشتراكاتهم المدفوعة صراحةً لأنهم لم يعودوا قادرين على إخفاء استخدامهم للذكاء الاصطناعي تثبت أن "التخفي" هو ميزة أساسية، وإن كانت غير معلنة، بالنسبة للكثيرين.

مع إجبار قانون الذكاء الاصطناعي الأوروبي للمختبرات الكبرى على تنفيذ تدابير الشفافية هذه، من المرجح أن نشهد انقساماً في السوق. سيطالب عملاء الشركات بنماذج ممتثلة ومزودة بعلامات مائية لتجنب المساءلة القانونية، في حين ستشهد السوق الموازية للنماذج مفتوحة المصدر الخالية من العلامات المائية ارتفاعاً كبيراً في شعبيتها بين المقاولين المستقلين والطلاب. يُعد تطبيق شركة Anthropic لتقنية SynthID مجرد الاختبار الرئيسي الأول لما إذا كانت شركة ذكاء اصطناعي رائدة قادرة على النجاة عند إعطاء الأولوية للامتثال التنظيمي على حساب حالات الاستخدام المخادعة التي يريدها مستخدموها بوضوح.