الذكاء الاصطناعي ليس بالأمر السهل ، ويمكن أن تنشأ مشاكل معه حتى في الشركات ذات الخبرة التطويرية الواسعة في هذا المجال. كما حدث مع أمازون. وبحسب ما أوردته وكالة رويترز للأنباء: "كان على الشركة التخلي عن مشروع يعتمد على الذكاء الاصطناعي يقوم تلقائيًا باختيار الموظفين. مشكلته الرئيسية هي اضطهاد المرأة ".
في معظم الحالات ، يتم تدريب الذكاء الاصطناعي عن طريق تحليل البيانات التاريخية. مشكلتهم المتكررة هي أداء المهام على أساس "التصورات المسبقة". في هذه الحالة ، كان "التحيز" عددًا كبيرًا من الرجال العاملين في مجال تكنولوجيا المعلومات. طور البرنامج خوارزمية تصنف الاستبيانات التي تسرد كليات البنات والتي تحتوي على كلمة "نسائي" في آخر الأماكن في التصنيف.
اقرأ أيضا: أطلقت أمازون Echo Wall Clock مع دعم المساعد الصوتي Alexa
"حاول فريق التطوير تطوير برنامج يختار أفضل 100 من بين 5 طلب مقدم ، وفقًا لمعايير معينة". - يبلغ عن مصدر غير مسمى.
اقرأ أيضا: تقدم أمازون مكبر الصوت الذكي Echo Show المحدث بشاشة كبيرة بحجم 10 بوصات
عندما أدركت الشركة أن البرنامج كان يعطي نتائج بناءً على الفروق بين الجنسين ، قررت تعديل خوارزميات الذكاء الاصطناعي. ومع ذلك ، تم تقويض سمعة المشروع. بالإضافة إلى ذلك ، لم تكن هناك ضمانات بعدم وجود "تحيزات" أخرى في البرنامج. لذلك ، دون تفكير طويل ، قررت أمازون تغطية المشروع حتى أوقات أفضل.
لا يسعنا إلا أن نأمل أن يتم تصحيح المشروع وأن نستمر في إرضاء المستخدمين بنتائج صادقة.
مصدر: الحافة
اترك تعليق