كشفت دراسات أجريت مؤخراً أن خوارزميات الذكاء الاصطناعي لا تكتفي بالتمييز ضد النساء بل تعززه أيضًا. ولما كان الذكاء نفسه لا يمارس التمييز، فإن البيانات التي يعتمد عليها تعكس أوجه عدم المساواة داخل المجتمع. ومن بين الأمثلة التي أوردتها تلك الدراسات سماح هذه الخوارزميات لرجل أمريكي بالحصول على قرض أكبر بعشرين مرة من القرض الذي منحته نفس الخوارزميات لزوجته، رغم أن دخليهما كانا متساويين. كما اعتبرت هذه الخوارزميات النساء المولودات خارج هولندا مثلاً محتالات على نظام المساعدات الاجتماعية، لمجرد أنهن يحملن أسماءً غير هولندية.
ذكاء لا يفكر
وأكدت هذه الدراسات على أن أنظمة الذكاء الاصطناعي تفتقر الى القدرة على التفكير والتصحيح كما هو الحال لدى البشر، وبالتالي يجب فحص كل قرارات هذه الأنظمة بشرياً قبل تطبيقها، وأن تخضع لقوانين مكافحة التمييز التي تنظم التفاعلات البشرية.
ليست مشكلة تقنية فقط
وفي هذا الصدد، تؤكد الناشطات النسويات ومنظمات الدفاع عن حقوق المرأة على أن التحيزات الخوارزمية ليست وليدة الصدفة، بل هي تعبير عن علاقات القوة والتمييز المتجذرة. فعندما تُلحق مجموعات البيانات ضررًا منهجيًا بالنساء، فإن هذا لا يعكس مشكلة تقنية فحسب، بل يعكس أيضًا نظامًا اجتماعيًا يُقلل من شأن النساء بصورة بنيوية. ولذلك تطالب هذه المنظمات بدمج أخلاقيات القانون، وعلم الاجتماع، ودراسات النوع الاجتماعي، ودراسات الإعاقة، ودراسات ما بعد الاستعمار، بشكل منهجي مع عمل علماء الحاسوب، لمعالجة البيانات والحد من التمييز الذي تسببه في مرحلة مبكرة.
ورغم أن الأطر القانونية تُعّد أحدى وسائل معالجة التمييز الخوارزمي، فإن التشريعات وحدها لا تكفي، بل ينبغي إشراك جميع أفراد المجتمع في تشكيل التقنيات الرقمية، بما يحقق التوازن بين الابتكار التكنولوجي والقيم الاجتماعية، والاعتراف بأن الرقمنة والذكاء الاصطناعي ليسا مجرد ظاهرتين تقنيتين، بل ظاهرتان اجتماعيتان عميقتان ينبغي توجيههما بفاعلية.
رقابة شعبية
ويشمل ذلك، العمل على أن تخدم التقنيات الرقمية مصالح الناس، وأن تُوجّه باحتياجاتهم وحقوقهم، لا وفق المصالح الاقتصادية فحسب. وهذا ما يجعل ممارسة الرقابة الديمقراطية على أنظمة الذكاء الاصطناعي والتعلم الآلي أكثر أهمية، بدلاً من تركها في أيدي الشركات التي باتت تحتكر السلطة بشكلٍ مثير للقلق.
ومع كل ما تحمله الرقمنة من إمكانيات، يجب ألا تُفاقم التفاوتات الاجتماعية، بل يجب أن تتيح فرصًا جديدة للمشاركة والتعليم والعدالة، وأن تتماشى باستمرار مع حقوق الإنسان والديمقراطية والتنوع. وهذا يُذكّرنا بأن التقنيات ليست محايدة، بل هي نتاج قرارات بشرية، ومن ثم يُمكن توجيهها نحو مجتمع أكثر عدلاً.
وعلى الرغم من أن هذه الأنظمة ليست مستخدمة على نطاق واسع في العراق حتى الآن، فإن خطط التحول نحو حكومة الكترونية تستدعي التفكير في هذه العواقب، كي نتلافى آثارها السلبية الخطيرة مبكراً.