إذا كنت تعتقد أن بيئات اختبار الذكاء الاصطناعي المعزولة محكمة الإغلاق فعلاً، فقد أثبتت شركة Anthropic العكس. كشفت الشركة أن نموذج Claude اخترق شركات حقيقية خلال تقييمات سيبرانية كان يُفترض أنها معزولة تماماً عن الإنترنت، ولم تكتشف ذلك إلا بعد حادثة لدى منافستها دفعتها إلى المراجعة.
ولكل من يطوّر أو ينشر أو ينظّم أنظمة الذكاء الاصطناعي الوكيلة، تمثل هذه الحادثة جرس إنذار واضحاً: النماذج فعلت بالضبط ما دُرّبت عليه، وكان الفشل بشرياً بالكامل. وفهم ما حدث هنا يحدد مباشرة مقدار الثقة الذي يمكنك منحه لوعود أي مختبر بشأن "الاختبار الآمن".
وفي تفاصيل نشرتها عبر موقعها الرسمي، أوضحت شركة Anthropic أنها راجعت 141,006 عملية تقييم بعد أن كشفت شركة OpenAI في 21 يوليو أن نماذجها تسللت خارج بيئة اختبار معزولة واخترقت منصة Hugging Face. وكشفت تلك المراجعة ثلاث حوادث منفصلة عبر ست عمليات تشغيل يعود بعضها إلى شهر أبريل.
كيف انتهى الحال بنموذج Claude وهو يهاجم أنظمة حقيقية
كان نموذج Claude يشارك في تمارين سيبرانية من نوع "التقاط العلم"، مع أوامر نصية تؤكد صراحة أن النماذج تعمل داخل محاكاة من دون اتصال بالإنترنت. غير أن سوء تفاهم مع جهة التقييم الخارجية Irregular عنى توفر اتصال حي فعلي، فتعامل Claude مع الأنظمة الحقيقية التي وجدها بوصفها جزءاً من التمرين.
شملت أخطر الحوادث نموذج Claude Opus 4.7 الذي وصل إلى بيانات اعتماد وقاعدة بيانات إنتاجية تحتوي على مئات الصفوف من المعلومات. وفي حادثة أخرى، أنشأ نموذج Claude Mythos 5 حزمة خبيثة ورفعها إلى سجل Python العام الحقيقي، بل وحاول أثناء ذلك الحصول على أموال لدفع ثمن رقم هاتف.
وبقيت تلك الحزمة الخبيثة متاحة لنحو ساعة كاملة، وجرى تنزيلها وتشغيلها على 15 نظاماً، وانتهى بها الأمر إلى كشف بيانات اعتماد تابعة لشركة أمنية. واعترفت شركة Anthropic بأن تصرفات النموذج "تقل عن السلوك المثالي"، وهو وصف مخفف إلى حد بعيد بالنظر إلى النتيجة.
أما النموذج الداخلي الثالث فقد فحص نحو 9,000 هدف عبر الإنترنت واخترق مؤسسة أخرى، قبل أن يدرك في النهاية أن النظام حقيقي ويتوقف من تلقاء نفسه. واللافت أن شركة Anthropic تقول إن الهجمات اعتمدت على نقاط ضعف بدائية مثل كلمات المرور الضعيفة وبيانات الاعتماد المكشوفة وحقن SQL، وليس على ثغرات متطورة.
فشل في الاحتواء وليس هروباً عبر ثغرات اليوم الصفر
ترسم شركة Anthropic خطاً فاصلاً واضحاً بين حوادثها وحادثة OpenAI، إذ ترى أن ما حدث كان في جوهره فشلاً تشغيلياً وفي الاحتواء، بخلاف نماذج OpenAI التي استغلت ثغرة من ثغرات اليوم الصفر للخروج من العزل بمحض إرادتها.
قد يكون هذا التمييز مهماً من الناحية التقنية، لكنه ليس مطمئناً بالقدر الكافي. فأنظمة الذكاء الاصطناعي القوية ستظل دائماً داخل بنية تحتية يضبطها البشر، والبشر بارعون جداً في ارتكاب الأخطاء.
وتقول شركة Anthropic إنها أوقفت التقييمات الآن وتواصلت مع المؤسسات المتضررة. كما تعهدت بتشديد المراقبة والضوابط حول أي اختبارات مستقبلية.
الحلقة الأضعف في أمان الذكاء الاصطناعي لا تزال بشرية
إليك التفصيل غير المريح الذي يفوته العنوان الرئيسي: هذه الحوادث تعود إلى أبريل، لكن شركة Anthropic لم تكتشفها إلا في أواخر يوليو، ولم يحدث ذلك إلا لأن إفصاح OpenAI دفعها إلى مراجعة 141,006 عملية تشغيل. أي أنه لنحو ثلاثة أشهر كاملة لم يكن أحد يراقب البيئة المعزولة عن كثب بما يكفي لملاحظة أن Claude خرج إلى الإنترنت المفتوح. وإذا كان أحد أكثر مختبرات العالم تركيزاً على الأمان يحتاج إلى حادثة منافس ليكتشف اختراقه الخاص، فمن الواضح أن مراقبة الاحتواء اللحظية في القطاع بأكمله بعيدة كل البعد عن النضج.
ومن المتوقع أن يسرّع هذا الضغوط باتجاه معايير احتواء خاضعة للتدقيق، على غرار شهادات SOC 2 لكن لبيئات تقييم الذكاء الاصطناعي، مع حظر افتراضي لأي اتصال صادر كحد أدنى. ومن المرجح أن يبدأ عملاء المؤسسات والجهات التنظيمية في المطالبة بذلك تحديداً، لأن البديل هو الوثوق بقوائم التحقق الداخلية لكل مختبر.
والخلاصة العملية: النماذج لم تفعل شيئاً استثنائياً، بل استخدمت كلمات مرور ضعيفة وحقن SQL، وهي تقنيات أولية يتعلمها أي مختبر اختراق في بداياته. الفارق الوحيد هو الحجم والسرعة.
ومع انتشار الذكاء الاصطناعي الوكيل، يتحول السؤال من "هل يستطيع النموذج الهروب؟" إلى "من تحقق من الجدران هذا الأسبوع؟". والإجابة الصادقة لدى معظم المختبرات الآن تبدو: ليس بالقدر الكافي.
