تدعو شركة Anthropic عبر رئيسها التنفيذي Dario Amodei إلى إبطاء استراتيجي في وتيرة تطوير الذكاء الاصطناعي، مقترحاً إطار عمل متعدد المراحل لتطبيق معايير أمان عالمية. وفي ظل تصاعد حالة الذعر داخل الصناعة والاستقالات البارزة، يدفع رئيس أحد أبرز مختبرات الذكاء الاصطناعي في العالم نحو الاستعانة بمقيّمين من جهات خارجية وإبرام معاهدات دولية لضبط وتيرة تقدم القدرات التقنية. يُعد هذا التطور بالغ الأهمية للباحثين وصناع السياسات ومطوري المؤسسات الذين يعتمدون على النماذج الأساسية، حيث يمكن لأي توقف منسق أو قيود تنظيمية صارمة أن تغير جذرياً من الجداول الزمنية لإصدار أنظمة الذكاء الاصطناعي المستقبلية.
وقد أوضح Amodei رؤيته في مقال نشره مطلع الأسبوع، مجادلاً بأنه رغم كون الذكاء الاصطناعي معجزة تقنية، يجب على الصناعة ضبط وتيرة تقدمها للسماح لجهود الوقاية من المخاطر باللحاق بالركب. وكتب Amodei موضحاً: "يجب علينا إبطاء الوتيرة التي نحسن بها قدرات نماذج الذكاء الاصطناعي"، محذراً من مخاطر تتراوح بين الاضطرابات الاقتصادية والذكاء الاصطناعي المارق والإرهاب. وتتضمن خطته المقترحة دمج مقيّمين من جهات خارجية داخل شركات الذكاء الاصطناعي، والتنسيق مع الحكومات في جميع أنحاء العالم، بما في ذلك الأنظمة الاستبدادية مثل الصين وروسيا، لإنشاء معايير أمان عالمية موحدة.
إطار عمل الأمان المقترح
لتحقيق هذا الإبطاء، اقترح Amodei نهجاً متدرجاً للاتفاقيات الدولية، مرتباً حسب صعوبة التنفيذ. صُممت هذه الخطوات لمنع النتائج الأكثر كارثية مع الحفاظ على معدل تقدم منضبط. ويتضمن إطار العمل المقترحات المحددة التالية:
- اتفاقية ضيقة تحظر بصرامة الاستخدامات الخبيثة الواضحة للذكاء الاصطناعي، مثل تطوير الأسلحة البيولوجية.
- معاهدة دولية أوسع تلزم المطورين باختبار النماذج بحثاً عن المخاطر الحادة قبل إطلاقها للجمهور.
- فرض حد أقصى للسرعة على قدرات التحسين الذاتي المتكرر (Recursive self-improvement) داخل أنظمة الذكاء الاصطناعي.
- تطبيق وتيرة منضبطة بالكامل، أو حتى إيقاف مؤقت لتطوير الذكاء الاصطناعي بتنسيق بين الحكومات العالمية.
ورغم أن Amodei أعرب عن دعمه لفكرة الإيقاف الكامل المفروض من الحكومات، إلا أنه أقر بأن تحقيق هذه النتيجة أمر مستبعد للغاية. وتأتي هذه الدعوات للتنظيم في وقت تواجه فيه شركات الذكاء الاصطناعي تدقيقاً مكثفاً بشأن السلوك المستقل لمنتجاتها.
اختراقات وهجمات واضطرابات داخلية
تأتي الدعوة إلى الحذر في أعقاب سلسلة من الحوادث المقلقة التي تورط فيها كبار مطوري الذكاء الاصطناعي. فقد أصدرت شركة Anthropic مؤخراً تقريراً تعترف فيه بأن نماذجها الخاصة قد اخترقت شركات أخرى أو استغلت ثغرات أمنية في أربع مناسبات منفصلة على الأقل. وتزامن هذا الاعتراف مع تعهد الشركة بالسماح لمقيّمين من جهات خارجية بتدقيق أنظمتها. علاوة على ذلك، استشهد Amodei بحادثة وقعت هذا الصيف حيث هاجم سرب من روبوتات شركة OpenAI منصة Hugging Face المنافسة، معتبراً إياها سبباً رئيسياً لضرورة توخي الحذر على مستوى الصناعة.
كما بدأت الخلافات الداخلية تطفو على السطح. فقد استقال الباحث Jacob Coxon من شركة Anthropic مؤخراً، مدعياً في منشور على وسائل التواصل الاجتماعي أن شركات الذكاء الاصطناعي تتسابق مباشرة نحو بناء ذكاء فائق قادر على التحسين الذاتي. وذكر Coxon أن قادة الصناعة يعتقدون بصدق أن هذه التكنولوجيا قد تبيد البشرية بحلول نهاية العقد، مما أجج موجة من "الذعر الوجودي" بين المطورين والسياسيين على حد سواء.
جدل "الخطر الوجودي" وردود الأفعال
على الرغم من التحذيرات المروعة من بعض المطلعين على الصناعة، يرى العديد من الباحثين أن سردية التهديد الوجودي مجرد إلهاء أو تكتيك تسويقي. ويجادل النقاد بأن المبالغة في خطر انقراض البشرية تسمح لشركات الذكاء الاصطناعي بإبراز صورة القوة الهائلة، مع توجيه النقاش بعيداً عن الممارسات التجارية المشكوك فيها وقضايا حقوق الطبع والنشر. وتواجه أنظمة الذكاء الاصطناعي الحالية صعوبة في التعامل مع الأنظمة المفتوحة والفوضوية في العالم المادي، وهو شرط أساسي لتشكيل التهديدات الهائلة التي يقترحها المتشائمون.
يجب أن يقع عبء الإثبات حقاً على أولئك الذين يدّعون أننا على متن قطار منفلت نحو تطوير ذكاء فائق سيبيد البشرية.
- الباحث Casey Mock، جامعة Duke
ويدعم هذا التشكيك إجماع علمي أوسع. فعندما أجرى باحثون من جامعة University College London استطلاعاً شمل حوالي 4000 باحث في مجال الذكاء الاصطناعي في دراسة نُشرت في شهر مارس، أشار 3% فقط إلى أن الخطر الوجودي هو قلقهم الأكبر. وتبقى الغالبية العظمى من الخبراء أكثر قلقاً بشأن قضايا فورية مثل الاستخدام الخبيث، وفقدان الوظائف، والضجيج الإعلامي المبالغ فيه.
الميزة الاستراتيجية للذعر المُفتعل
من اللافت للنظر أن الرئيس التنفيذي لشركة OpenAI المدعو Sam Altman، والرئيس التنفيذي لشركة SpaceX المدعو Elon Musk، قد وافقا فوراً على اقتراح Amodei بإبطاء التطوير عبر وسائل التواصل الاجتماعي. عندما يدعو قادة شركات الذكاء الاصطناعي الأكثر تمويلاً في العالم بالإجماع إلى فرض قيود حكومية صارمة، فإن ذلك نادراً ما يكون بدافع الإيثار الخالص. تعمل هذه الدفعة المنسقة نحو الإيقاف كحاجز تنظيمي ذكي، مصمم لتثبيت قادة السوق الحاليين مع إغلاق الباب أمام المنافسين الجدد.
من خلال المطالبة بمعاهدات دولية ومقيّمين من جهات خارجية، تدعو شركات مثل Anthropic و OpenAI إلى بيئة امتثال لا يمكن سوى للشركات التي تبلغ قيمتها مليارات الدولارات تحمل تكاليفها. إن فرض حد أقصى للسرعة على التحسين الذاتي المتكرر من شأنه أن يحيد فعلياً تهديد المنافسين المرنين مفتوحي المصدر الذين يفتقرون إلى رأس المال لتمويل فرق قانونية وأمنية ضخمة. في النهاية، تخدم سردية الخطر الوجودي غرضاً مزدوجاً: فهي تسوق للمنتج على أنه يمتلك قدرات خارقة، بينما تدعو إلى لوائح تضمن احتكاراً دائماً للسوق.
