دعا رئيس شركة Microsoft، براد سميث، إلى فرض قواعد أمان عالمية أكثر صرامة على الذكاء الاصطناعي، مشيراً إلى أن المنتجات المنزلية اليومية تخضع حالياً لرقابة تفوق ما تواجهه الأنظمة التقنية القوية. وفي مقابلة مع شبكة BBC نُشرت يوم الإثنين، سلّط سميث الضوء على التفاوت التنظيمي بين قطاع التكنولوجيا والسلع الاستهلاكية التقليدية.
تخضع غسالتك في الوقت الحالي لقواعد أمان أكثر من الذكاء الاصطناعي. كل علبة حليب تراها في متجر البقالة تخضع لقواعد الأمان والتفتيش.
براد سميث، رئيس شركة Microsoft
قواعد الأمان المقترحة ومكابح الطوارئ
ولمعالجة هذه الفجوات، اقترح سميث ضرورة إلزام الشركات قانونياً بالإبلاغ عن حوادث الأمان وإخطار الضحايا عند اختراق أنظمتها من قِبل وكلاء الذكاء الاصطناعي المارقين. كما دعا إلى وضع قواعد تلزم مقيّمين مستقلين بمراجعة نماذج الذكاء الاصطناعي الجديدة قبل طرحها للجمهور.
بالإضافة إلى ذلك، أكد سميث على الحاجة إلى مكابح طوارئ أو مفاتيح إيقاف لتعطيل أنظمة الذكاء الاصطناعي التي تخرج عن السيطرة. وقد أيّد المدير التنفيذي لشركة Microsoft، ساتيا ناديلا، هذا الإجراء تحديداً، حيث ذكر في منشور على منصة X يوم السبت أن نماذج الذكاء الاصطناعي تتطلب مكابح طوارئ تتيح للبشر إيقافها مؤقتاً أو تعطيلها في منتصف المهمة. وأخبر سميث شبكة BBC أن القطاع يعرف بالفعل كيفية تنفيذ هذه الضمانات في منتجات أخرى، ويجب عليه تطبيق تلك المعرفة على الذكاء الاصطناعي.
تحذيرات القطاع والاتفاقيات الطوعية
وتأتي المطالبات بفرض رقابة أكثر صرامة في وقت يعتقد فيه بعض المطلعين في قطاع الذكاء الاصطناعي أن كارثة كبرى مرتبطة بالتقنية قد تقع خلال الأشهر الستة إلى الاثني عشر المقبلة، بحسب تقرير لموقع Axios. وتتوقع شركات التكنولوجيا أن تتحمل الجزء الأكبر من اللوم إذا خرج الذكاء الاصطناعي عن السيطرة أو استخدمه القراصنة لتنفيذ هجمات، وتفيد التقارير بأنها تضع بالفعل خططاً للتعامل مع التداعيات المحتملة. ومع ذلك، تختلف وجهات النظر حول المخاطر؛ ففي الأسبوع الماضي، صرّح المدير التنفيذي لشركة OpenAI، سام ألتمان، لموقع Politico بأنه يجب على العالم أن يتقبل حدوث بعض الأشياء السيئة مقابل الاستفادة من مزايا الذكاء الاصطناعي.
وفي الولايات المتحدة، دعا الرئيس دونالد ترامب إلى حد كبير إلى ترك القطاع ينظم نفسه بنفسه، مجادلاً بأن الإفراط في التنظيم قد يضع البلاد في موقف ضعيف أمام الصين. وخلال اجتماع في البيت الأبيض عُقد في 29 سبتمبر، وقّع مسؤولون تنفيذيون من شركات Google و Meta و Anthropic و OpenAI و xAI و Nvidia اتفاقية طوعية تحدد بعض معايير أمان الذكاء الاصطناعي المحدودة. ووصف ترامب هذه المعايير، التي تفتقر إلى أي آلية إنفاذ قانوني، بأنها ملزمة أخلاقياً.
المملكة المتحدة كنقطة انطلاق
وعلى الرغم من النهج الأمريكي، أدى النقاش الأوسع حول أمان الذكاء الاصطناعي إلى تحذيرات من بعض الباحثين داخل شركات الذكاء الاصطناعي بشأن مخاطر التطوير غير المقيد، بما في ذلك احتمالية أن تؤدي التقنية يوماً ما إلى انقراض البشرية، مما دفع البعض للمطالبة بإبطاء تطوير النماذج متزايدة القوة.
واقترح سميث أن المملكة المتحدة، من خلال معهد أمان الذكاء الاصطناعي التابع لها، يمكن أن تكون نقطة انطلاق جيدة لتطوير معايير عالمية. وأشار إلى أن المسؤولين في واشنطن قد يكونون أكثر استعداداً للتعاون مع المملكة المتحدة مقارنة بحكومات أخرى مثل الاتحاد الأوروبي. وفي إشارة إلى وكلاء الذكاء الاصطناعي الذين أفلتوا من السيطرة البشرية والنماذج القوية التي تعرض الأمن السيبراني العالمي للخطر، صرّح سميث بأن لحظة التحرك قد حانت. ولم ترد شركة Microsoft على الفور على طلب موقع Gizmodo للتعليق.
كُتب هذا المقال بالذكاء الاصطناعي اعتماداً على ما نشره: gizmodo.com.
