هل يمكن للروبوتات أن تكون منحازة؟
هل يمكن للروبوتات أن تكون منحازة؟



إنّ التطور الذي نشهده في القطاع الرئيسي للروبوتات والذكاء الاصطناعي، يقودنا إلى أن الروبوتات سيكون باستطاعتها إتمام الكثير من الأعمال التي يقوم بها الإنسان حالياً، وهناك قلق متزايد من أن بعض الخوارزميات ربما تخفي انحيازات غير مقصودة أثناء تطويرها وتصميمها من قبل الخبراء، مثل العنصرية والتمييز على أساس هل الإنسان ذكر أو أنثى. فعلى سبيل المثال، في الآونة الأخيرة كلفت برمجية من البرمجيات بتقديم المشورة حول ما إذا كان من المرجح أن يعيد المجرم المدان الكرة في ممارسة الجريمة، فكانت النتيجة أن المشورة جاءت مضاعفة في قسوتها بخصوص ذوي البشرة الغامقة.



الأمر كله قائم على طريقة تدريب المنظومات الرقمية، فإذا كانت البيانات التي غذيت بها الأجهزة سليمة وخالية من الشوائب، فإن قراراتها ستكون في الغالب سليمة وخالية من المشاكل، لكن للأسف عادة هناك تحيزات بشرية موجودة أثناء عملية تغذية المعلومات، وهناك طريقة أخرى يمكن أن يتسلل منها الانحياز، من خلال الوزن، فكما هو الحال لدى البشر، يقوم زملائنا من روبوتات الذكاء الاصطناعي بتحليل المعلومات والبيانات عن طريق وزنها، أي الحكم على القضايا والاعتبارات من حيث كونها أكثر أو أقل أهمية.



وقد يتعلق بالعنصرية أو التمييز على حسب طبقة العيش، فقد تقرر خوارزمية ما أن الرمز البريدي لشخص ما له علاقة بنسبة اعتماده المالي أو البنكي، وهو أمر يحدث في الولايات المتحدة، ويتم عن طريقه التمييز ضد الأقليات العرقية، التي تميل للعيش في أحياء فقيرة، وهذا يتعلق بالعنصرية أو التمييز على حسب طبقة العيش، وسيكون هناك كذلك تمييز لم يكن يخطر على البال، ويشرح هذه المعضلة بشكل جيد الخبير الاقتصادي دانيال كاهنيمان، الحاصل على جائزة نوبل، والذي قضى حياته في دراسة الانحيازات غير العقلانية في الذهن البشري، وذلك في مقابلة مع مدونة “فريكونوميكس” عام 2011.



حيث أنّ مبادئ الاستدلال بطبيعتها الخاصة سيكون من نتائجها انحيازات، وهذا الأمر واقعي وحقيقي لنا كالبشر ولمطوري روبوتات الذكاء الاصطناعي، لكن الاستدلال المختص بالذكاء الاصطناعي ليس بالضرورة هو الاستدلال البشري، حيث أنّ الروبوتات القادمة ستعمل على إحداث نقلة نوعية في مستقبل العمل إلى الأبد، لكن سيتحقق ذلك حين تصبح قريبة الشبه أكثر بالإنسان، حتى في ذلك الوقت هي في الواقع ستكون بحاجتنا للوقوف بجانبها، وقد تبدو الصورة صعبة التصوير لنا الآن بأنّ زملاءنا من الروبوتات سيحسنون من الطريقة التي نظهر بها أمام الآخرين.