اليونسكو تحذر من تحيز الذكاء الاصطناعي على أساس الجنس

حذرت دراسة نشرتها منظمة اليونسكو مع اقتراب يوم المرأة العالمي من أنّ نموذجي الذكاء الاصطناعي "جي بي تي 2" و "جي بي تي 3,5" من "أوبن أيه آي" وبرنامج "لاما 2" من "ميتا"، تظهر "بشكل قاطع تحيّزاً ضد المرأة".

وأكد مساعد المدير العام لليونسكو لشؤون الاتصالات والمعلومات توفيق الجلاصي أن التمييز في العالم الحقيقي لا ينعكس في المجال الرقمي فحسب، بل يتصاعد فيه أيضاً.

وطلب الباحثون من هذه الأدوات كتابة قصص عن أشخاص من أصول وأجناس مختلفة، فأظهرت النتائج أن القصص المتعلقة بـ"الأشخاص المتحدرين من الأقليات أو النساء كانت في معظم الأحيان أكثر تكرارا وتستند إلى صور نمطية.

وتم عرض الرجل الإنجليزي كمدرّس أو سائق أو موظف مصرف، بينما تم تقديم المرأة الإنجليزية في ما لا يقل عن 30% من النصوص على أنها بائعة هوى أو عارضة أزياء أو نادلة.

وأكدت المتخصصة في السياسات الرقمية والتحول الرقمي في اليونسكو ليونا فيرداديرو، أن هذه الشركات تفشل في تمثيل كل مستخدميها.

ومع الاستخدام المتزايد لتطبيقات الذكاء الاصطناعي هذه من عامة الناس والشركات، يصبح لديها القدرة على تشكيل تصوّر لملايين الأشخاص، على قول المديرة العامة لليونسكو أودري أزولاي.

ولمكافحة هذه التحيزات، أوصت اليونسكو الشركات العاملة في هذا القطاع بأن تعتمد التنويع أكثر ضمن فرقها من المهندسين، وزيادة عدد النساء تحديداً.

ودعت اليونسكو الحكومات إلى إقرار مزيد من القوانين لاعتماد "ذكاء اصطناعي يستند إلى معايير أخلاقية.