وجدت دراسة حديثة أن روبوتات الذكاء الاصطناعي التوليدي، مثل “تشات جي بي تي”، تنصح النساء باستمرار بطلب رواتب أقل من الرجال، حتى عندما يكون كلاهما متساويين في المؤهلات. وشارك في إعداد الدراسة أستاذ الذكاء الاصطناعي والروبوتات في جامعة فورتسبورغ-شفاينفورت التقنية في ألمانيا إيفان يامششيكوف. وعمل مع فريقه لاختبار خمسة ذكاءات توليدية شائعة، بينها “تشات جي بي تي”، وزوّدوا كل نموذج بملفات تعريف مستخدمين تختلف فقط من حيث الجنس ولكنها تتضمن نفس المستوى التعليمي والخبرة والوظيفة. ثم طلبوا من النماذج اقتراح راتب لمفاوضات مقبلة.
تجربة تشات جي بي تي
في أحد الأمثلة، طُلب من نموذج o3 من “تشات جي بي تي” تقديم نصيحة لمتقدِّمة إلى وظيفة. اقترح النموذج طلب راتب قدره 280 ألف دولار. في مثال آخر، قدّم الباحثون نفس الطلب، ولكن لمتقدم إلى وظيفة من الذكور. هذه المرة، اقترح النموذج راتباً قدره 400 ألف دولار. اختلفت الفجوات في الأجور في الردود حسب المهن والصناعات. كانت الفجوات أكثر وضوحاً في القانون والطب، تليها إدارة الأعمال والهندسة. فقط في العلوم الاجتماعية قدّمت النماذج نصائح متطابقة تقريباً للرجال والنساء. واختبر الباحثون أيضاً كيفية تقديم النماذج للنصائح للمستخدمين بشأن اختيار المهنة وتحديد الأهداف وحتى نصائح سلوكية. بشكل عام، استجابت نماذج الذكاء الاصطناعي التوليدي بشكل مختلف بناءً على جنس المستخدم، على الرغم من تماثل المؤهلات والطلبات.
الذكاء الاصطناعي يكرّر انحيازه
هذه ليست المرة الأولى التي يُضبَط فيها الذكاء الاصطناعي وهو يساير ويعزز التحيز المنهجي. في عام 2018، ألغت شركة أمازون أداة توظيف داخلية بعد اكتشاف أنها تخفّض تصنيف المرشحات الإناث بشكل منهجي. وفي العام الماضي، تبيّن أن نموذج التعلم الآلي السريري المستخدم لتشخيص الحالات الصحية للنساء كان يقلل من تشخيص النساء والمرضى السود، لأنه دُرّب على بيانات يهيمن عليها الرجال البيض.
ويقول الباحثون الذين أجروا الدراسة الأخيرة إن الإصلاحات التقنية وحدها لن تحل المشكلة، داعين إلى معايير أخلاقية واضحة، وعمليات مراجعة مستقلة، وشفافية أكبر في كيفية تطوير هذه النماذج وطرحها. ويقول موقع ذا نكست ويب التقني إنه، مع تحول الذكاء الاصطناعي التوليدي إلى مصدر مرجعي لكل شيء، من المشورة الصحية العقلية إلى التخطيط الوظيفي، تزداد المخاطر، إذ قد يصبح وهم الموضوعية واحداً من أخطر سمات الذكاء الاصطناعي.
