الذكاء الاصطناعي يعيد إنتاج الصور النمطية ويفاقم التحيز ضد النساء

يأتي هذا التحذير في الوقت الذي تظهر أحدث الدراسات أنه مع دخول الذكاء الاصطناعي التوليدي حيز الاستخدام اليومي لمليارات الأشخاص، تتعزز أوجه عدم المساواة أيضا من خلال خوارزميات تمييزية.

وقبل انعقاد حوار الأمم المتحدة العالمي حول حوكمة الذكاء الاصطناعي والقمة العالمية للذكاء الاصطناعي من أجل الصالح العام في جنيف مطلع تموز/يوليو، حثت هيئة الأمم المتحدة للمرأة الحكومات والشركات والمطورين على ضمان دمج المساواة بين الجنسين في تصميم ونشر وحوكمة أنظمة الذكاء الاصطناعي.

تحيز جنسي وعنصري

تشير الأدلة إلى أن المشكلة واسعة الانتشار، حيث أظهرت دراسة أجريت على 133 نظام ذكاء اصطناعي أن 44% منها تُظهر تحيزا تجاه النوع الاجتماعي، بينما أظهر أكثر من ربعها تحيزا جنسيا وعنصريا معا.

لطالما ربطت نماذج اللغة الضخمة النساء بالمنزل والأسرة ورعاية الأطفال، بينما ربطت الرجال بالأعمال والقيادة والنجاح المهني. وفي بعض الحالات، أنتجت أنظمة الذكاء الاصطناعي ردودا تصور النساء كأدوات جنسية أو كخاضعات للرجال.

ووفقا لهيئة الأمم المتحدة للمرأة، عندما طلب الباحثون من نماذج اللغة الضخمة إكمال جملة تبدأ بجنس الشخص، جاءت واحدة من كل خمس ردود تقريبا متحيزة جنسيا أو كارهة للنساء، بل إن بعضها وصف النساء بأنهن ممتلكات، أو أشياء.

فجوة في السياسيات وليس عيبا في التصميم

يقول الخبراء إن هذه النتائج ليست أخطاءً عشوائية أو خللا في الذكاء الاصطناعي، بل هي نمط موثق عبر الأنظمة على نطاق واسع.

وأشارت هيئة الأمم المتحدة للمرأة إلى أنها ناتج متوقع لأنظمة الذكاء الاصطناعي التي تم تدريبها على عقود من التمثيل غير المتكافئ للنساء والرجال.

وفي حوار مع أخبار الأمم المتحدة، أوضحت جاياثما ويكراماناياكي، مسؤولة التقنيات الرقمية في هيئة الأمم المتحدة للمرأة أن نماذج الذكاء الاصطناعي "تستمد تحيزاتها من عقود من النصوص التي كتبها الناس عن الناس، في عالم صُنفت فيه النساء ضمن شؤون المنزل والأسرة، والرجال ضمن شؤون العمل والمسيرة المهنية".

بالنسبة إلى ويكراماناياكي، فإن الأمر الأكثر إثارة للقلق هو أن هذا ليس عيبا في التصميم، بل "فجوة حقيقية في السياسات تُركت دون معالجة".

من بين 138 دولة شملها التقييم حول العالم والذي نشرت الهيئة نتائجه، لم تشر سوى 24 دولة إلى النوع الاجتماعي في استراتيجياتها الوطنية للذكاء الاصطناعي، ولم تتضمن سوى 18 دولة تدابير جوهرية تراعي الفوارق بين الجنسين.

بالنسبة لخبيرة التقنيات الرقمية في هيئة الأمم المتحدة للمرأة، لا يُعد هذا خطأ برمجيا يمكن إصلاحه في التحديث القادم، بل "خيار نتخذه مرارا وتكرارا في بيانات التدريب، وفي غرف التصميم، وفي وثائق السياسات التي تتجاهل نصف السكان".

عنف إلكتروني ومحتوى مفبرك

بالنسبة للعديد من النساء والفتيات، تتجاوز المخاطر مجرد الصور النمطية، حيث تواجه النساء بالفعل مستويات غير متناسبة من الإساءة عبر الإنترنت، ويُسهل الذكاء الاصطناعي ابتكار بعض أشكال العنف ونشرها.

وفقا لبيانات هيئة الأمم المتحدة للمرأة، أفادت واحدة من كل أربع نساء تقريبا ممن شملهن الاستطلاع، من المدافعات عن حقوق الإنسان والناشطات والصحفيات، بتعرضهن للعنف الإلكتروني بمساعدة الذكاء الاصطناعي. وقالت 12% منهن إن صورهن الشخصية نُشرت دون موافقتهن، بينما أفادت 6% منهن باستهدافهن بمحتوى مُفبرك أو صور ومقاطع فيديو مُعدلة.

ومع ازدياد شيوع المحتوى المولد بالذكاء الاصطناعي، تتزايد المخاوف من صعوبة اكتشاف ومنع التحرش والتلاعب والإساءة القائمة على الصور.

تمثيل منقوص

في الوقت نفسه، لا تزال النساء غير ممثلات بشكل كاف في الصناعات التي تطور التكنولوجيا، مما يثير مخاوف من أن مستقبل الذكاء الاصطناعي يبنى دون أن تؤخذ وجهات نظرهن بعين الاعتبار في تصميمه.

على الرغم من أنه من المتوقع أن يحفز الذكاء الاصطناعي النمو في مختلف القطاعات التي تركز على التكنولوجيا، فإن النساء لا يمثلن سوى 30% من القوى العاملة العالمية في مجال الذكاء الاصطناعي، وفقا لمنظمة العمل الدولية.

وتحذر هيئة الأمم المتحدة للمرأة من أن الأشخاص الذين يطورون هذه الأنظمة لا يمثلون بشكل كاف تنوع المجتمعات التي يفترض أن تخدمها تلك الأنظمة.

وتقول الهيئة إنه بدون مشاركة أكبر من جانب النساء والفئات الأخرى الممثلة تمثيلا ناقصا، فإن التحيزات القائمة تهدد بالتغلغل في التقنيات المستقبلية.

تداعيات اقتصادية

قد يكون التأثير الاقتصادي للذكاء الاصطناعي غير متساوٍ أيضا. فالنساء أكثر عرضة بمرتين تقريبا من الرجال لشغل وظائف معرضة لخطر الأتمتة خارج قطاع الذكاء الاصطناعي. ويمكن أن تتفاقم هذه الآثار بفعل عوامل أخرى، بما في ذلك العرق والإعاقة والدخل والموقع الجغرافي.

ووفقا لهيئة الأمم المتحدة للمرأة، فإن معالجة التحيز ليست مجرد مسألة حقوق، بل هي أيضا ذات جدوى تجارية. وأضافت أنه مع تزايد تأثير الذكاء الاصطناعي على التسويق وإنشاء المحتوى، من المرجح أن تستفيد المؤسسات التي تدمج الشمول في عمليات الذكاء الاصطناعي لديها، بينما قد تواجه تلك التي لا تفعل ذلك مخاطر على سمعتها وتجارتها.

خيار يحدد المستقبل

هيئة الأمم المتحدة للمرأة أكدت أنه عند تطوير الذكاء الاصطناعي بمسؤولية، فإنه يمكن أن يساعد في تحديد الصور النمطية، وتوسيع نطاق التمثيل، وتحسين إمكانية الوصول.

وقبل اجتماع الحكومات وشركات التكنولوجيا والمنظمات الدولية في جنيف الشهر المقبل، أرسلت الهيئة رسالة جلية مفادها أنه إذا لم يتم إشراك النساء والفتيات في بناء مستقبل الذكاء الاصطناعي، فإن أوجه عدم المساواة التي سادت في الماضي ستنتقل إلى تقنيات الغد.

وأكدت أن الذكاء الاصطناعي، عند تصميمه مع مراعاة السلامة واستخدامه بوعي، قادر على كشف الصور النمطية بدلا من إعادة إنتاجها، وتوسيع نطاق التمثيل بدلا من تضييقه، وتحسين إمكانية الوصول على نطاق واسع للفئات التي غالبا ما تتجاهلها أنظمة الذكاء الاصطناعي الحالية.