الخطر الخفي لتبني الذكاء الاصطناعي في التكنولوجيا المالية: كيف تحمي قراراتك الآلية؟

يكشف استطلاع لعام 2025 أجراه المنتدى الاقتصادي العالمي ومركز كامبريدج للتمويل البديل أن بنسبة 80% من شركات التكنولوجيا المالية تطبق حالياً الذكاء الاصطناعي عبر مجالات أعمال متعددة. وتُعد الدوافع التجارية واضحة تماماً؛ إذ أبلغت نسبة 83% من الشركات عن تحسن في تجربة العملاء، بينما سجلت نسبة 75% منها زيادة في الربحية وانخفاضاً في التكاليف. ومع ذلك، يختبئ ضعف حرج تحت قشرة التخصيص المدعوم بالذكاء الاصطناعي، فحتى التوصيات الدقيقة قد تعتمد على بيانات قديمة، أو تتجاوز أذونات المستخدم، أو تُصدر قرارات آلية لا يمكن لأي شخص في المؤسسة تبريرها.

نادراً ما يعتمد الذكاء الاصطناعي المالي على مصدر بيانات واحد ونظيف. بل يتم تجميع المدخلات من الأنظمة المصرفية الأساسية، وبوابات الدفع، ومزودي خدمات اعرف عميلك (KYC)، وتغذيات السوق، وواجهات برمجة التطبيقات الخارجية. ويحمل كل مصدر تنسيقات وطوابع زمنية وأنماط فشل مختلفة. ووفقاً لاستطلاع مشترك أجرته هيئة بنك إنجلترا وهيئة السلوك المالي (FCA)، فإن أربعة من أكبر خمسة مخاطر للذكاء الاصطناعي حددتها الشركات المالية تتعلق بالبيانات، وتشمل الخصوصية، والجودة، والأمان، والتحيز.

نظراً لأن نسبة 55% من حالات استخدام الذكاء الاصطناعي تتضمن اتخاذ قرارات آلية، فإن وضع حدود واضحة لم يعد خياراً ثانوياً. ويجب على فرق منتجات التكنولوجيا المالية دمج الامتثال مباشرة في سير العمل لمنع عمليات إعادة التصميم المكلفة.

• تأمين سلسلة توريد البيانات: يجب دمج مجموعات البيانات المعتمدة، وتتبع مسار البيانات، وفحوصات حداثة المعلومات مباشرة في تصميم المنتج. وعندما يضع الذكاء الاصطناعي علامة على معاملة مالية، يجب أن تتمكن الفرق من تتبع السجلات الدقيقة التي استندت إليها النتيجة.
• جعل القرارات قابلة لإعادة البناء: تُعد سجلات التدقيق، والتشفير، والوصول القائم على الأدوار أمراً إلزامياً. وإذا أوصى مساعد ذكي بإجراء متعلق بالائتمان، يجب أن يسجل النظام البيانات التي وصل إليها، وكيفية تشكيل المنطق، ومن وافق عليه.
• تقييد وصول النظام: يجب أن تظل عمليات استرداد البيانات، وتقديم التوصيات، واتخاذ الإجراءات مسؤوليات منفصلة تماماً. فالمساعد الذكي الذي يشرح معاملة مالية يجب ألا يمتلك صلاحية نقل الأموال دون موافقة بشرية صريحة.

يجب على قادة التكنولوجيا المالية تحديد التخصيص المتوافق مع مصلحة العميل قبل نشر أي نموذج أو واجهة مستخدم. ويجب تقييم الجاهزية للإنتاج من خلال ثلاثة مؤشرات أساسية: إمكانية تتبع البيانات، والحدود الصارمة لوصول النظام، وقابلية الطعن. يضمن ذلك قدرة العميل أو الموظف على التشكيك في النتيجة وطلب مراجعة بشرية.

ويجب على الفرق تتبع معدلات التجاوز، والإيجابيات الكاذبة، والمخرجات غير المبررة، وانتهاكات الوصول بشكل نشط. تكشف هذه المؤشرات ما إذا كانت الثقة ستستمر بعد انتهاء العروض التجريبية، حيث يتطلب الحفاظ على قيمة الذكاء الاصطناعي أنظمة يمكن لبياناتها وقراراتها الصمود أمام التدقيق المكثف.

إن الاندفاع نحو نشر الذكاء الاصطناعي التوليدي (Generative AI) في القطاع المالي يخلق موجة هائلة من ديون الامتثال الخفية. فبينما تسلط بيانات المنتدى الاقتصادي العالمي الضوء على الربحية، يُعد اكتشاف بنك إنجلترا بأن نسبة 46% من الشركات تفهم تقنيات الذكاء الاصطناعي الخاصة بها بشكل جزئي فقط بمثابة قنبلة موقوتة تنظيمياً. فعندما ترفض خوارزمية تقليدية قرضاً، يكون المنطق مبرمجاً وقابلاً للتدقيق.

ولكن عندما يقوم نموذج لغوي كبير (LLM) بذلك بناءً على سلسلة توريد بيانات مجزأة، فإن الافتقار إلى قابلية التفسير ينتهك بشكل مباشر الأطر الناشئة مثل قانون الذكاء الاصطناعي الأوروبي وقواعد حماية المستهلك الصارمة. ستواجه شركات التكنولوجيا المالية التي تتعامل مع الذكاء الاصطناعي كتحدٍ هندسي بحت غرامات تنظيمية قاسية بحلول عام 2027، فالميزة التنافسية الحقيقية ستكون من نصيب الشركات التي يمكنها إثبات كيفية اتخاذ أنظمتها للقرارات رياضياً وقانونياً.