أصبح التعلم الألي حاضرًا بشكل دائم في حياتنا اليومية، ففي كل مرة نتحدث فيها مع هواتفنا الذكية أو نقوم بالبحث في الصور على الإنترنت أو حتى عندما نبحث عن أفضل المطاعم، فإننا نتعامل مع خوارزميات الألة.

وأضافت صحيفة "ديلي ميل" البريطانية، في تقريرها، أن كميات كبيرة من المدخلات الخام يمكننا إدراجها كأحد النصوص المتواجدة في أحد الموسوعات أو محفوظات كاملة من إحدى الصحف، من أجل تحليلها واستخراج نتائج لا تكون واضحة للمحللين البشريين، حتى عندما تقوم تلك البيانات الضخمة على قدر من التحيز الاجتماعي، فيمكن للألة أيضًا استنباط ذلك.

وتشبه خوارزمية التعلم الألي الطفل الوليد الذي تم اعطائه ملايين الكتب ليقرأها دون أن يكون تعلم الكلمات أو القواعد، وأنه على الرغم من أن معالجة المعلومات بهذه الطريقة تظل مثيرة للإعجاب إلا أنه مازالت هناك مشكلة، تتمثل في ملاحظة الكمبيوتر العلاقة بين الكلمات التي تقوم على أساس عوامل مختلفة، بما في ذلك عدد المرات التي تتواجد فيها تلك الكلمات جنبًا إلى جنب. ويمكننا تحديد العلاقات بين الكلمات باستخدام ألغاز القياس.

ووذكرت الصحيفة في تقريرها، قائلة "لو فرضنا مثلًا أننا طلبنا من الكمبيوتر إتمام هذا التناظر "هو يكون الملك، بينما هي تكون .."، فلو كانت إجابة الجهاز هي "الملكة"، فالإجابة صحيحة لأنها ببساطة ستكون الإجابة المحتملة إلى حد كبير لأي إنسان إذا سئل نفس السؤال. ودربت المجموعة البحثية، النظام الالكتروني لـ"أخبار غوغل"، ثم منحته قياسًا مختلفًا "الرجل مبرمج كمبيوتر ... أما المرأة فهي ..." فكانت الإجابة "ربة منزل".

ولجأت المجموعة البحثية إلى استخدام أحد الأنواع الشائعة في خوارزمية التعلم الألي، والتي يطلق عليها، "تضمين الكلمات"، وتعني الإشارة إلى كل كلمة باللغة الإنجليزية بنقطة معينة في الفضاء، ويتم تعيين الكلمات ذات الصلة ببعضها لغويًا، بنقاط متقاربة في الفضاء، وأن هذه الطريقة ربما تجعل من السهل على الكمبيوتر تحديد العلاقة بين الكلمات بسرعة وكفاءة كبيرة.

ولكن بالرغم من نجاج الكمبيوتر في العديد من التناظرات، على غرار "هو يكون أخ، بينما هي تكون أخت"، إلا أنه وقف عاجزًا أمام عددًا من الأفكار النمطية تبدو متعلقة بالجنس، مثل "هو يعمل طبيبًا، بينما هي ..." فكانت الإجابة "ممرضة"!!.

ويبدو أن نظام التعلم الالي يشبة أسلوب التعامل مع الأطفال حديثي الولادة، ربما لا يساعد فقط على تعليم الألة أشياء تبدو مثيرة للاهتمام، لكنها تساعد على استكشاف نقاط الضعف المرتبطة بالقوالب النمطية الصارخة بين الجنسين، حيث أن الخوارزمية تجعل قراراته مرتبطة بالكلمات التي تظهر دائمًا بجوار بعضها البعض، فكلمة "هو" تظهر غالبًا بجوار كلمة "طبيب"، بينما كلمة هي غالبًا ما ترتبط بكلمة "ممرضة".

وتسمح الخوارزمية ليس فقط باستكشاف حجم التمييز المجتمعي، نتيجة كمية الألفاظ التمييزية الكبيرة المتواجدة في البيانات التي يتم إدخالها إلى الكمبيوتر، ولكن أيضًا يمكنها توسيع نطاق الأفكار النمطية السائدة في المجتمع. فلو افترضنا أننا نقوم بالبحث عن مبرمج كمبيوتر، بينما يستخدم برنامج البحث قاعدة بيانات منحازة للرجل، فيربط تلك الوظيفة بالرجل، فتكون النتيجة أيضا منحازة، حيث يكون اسم "جون" أقرب إلى وظيفة المبرمج أكثر من إسم "ماري" وذلك لارتباط تلك الوظيفة بالرجل أكثر من المرأة طبقًا لقاعدة البيانات التي تم إدخالها.

وربما تكون تلك البيانات المنحازة تعكس حقيقة واقعية، حيث أنه من المحتمل أن يكون هناك رجال يعملون في وظيفة المبرمج أكثر من النساء، وبالتالي يلتقط النظام تلك التحيزات المجتمعية، ولكن هذا لا يعفي من ضرورة أن يكون دور التعلم الألي هو مكافحة القوالب النمطية الضارة.

وأكدت "ديلي ميل" أنه إذا ما اعتمدنا هذه الخوارزميات على نطاق واسع، فإننا سنساهم في توسيع وتفاقم الأثار المترتبة على تلك القوالب النمطية الضارة، لذلك فربما كانت هناك ضرورة لإيجاد وسيلة يمكن من خلالها مساعدة تلك الخوارزميات على الحد من الجانب المتحيز لديها.

ويعتمد نظام إزالة التحيز، على استخدام أناس حقيقيين يحددون ألقابًا مناسبة للتواصل، ليتم استخدامها كبديل للألفاظ المتحيزة، بحيث لا يكون اختلاف الجنس عاملًا في الاختيار بينها، وهي الطريقة التي يمكن استخدامها من أجل إزالة الأفكار النمطية المتعلقة بالجنس، وتقليل الفائدة الكلية للتضمين، ووجدنا عند التطبيق أن الكمبيوتر لم يعدّ يسلك بالصورة النمطية التي اعتادها قبل ذلك.