قد يكون فرز السير الذاتية بالذكاء الاصطناعي متحيّزاً، لأنه يتعلم من التوظيف السابق ويقرأ مؤشرات بديلة مثل الأسماء والجامعات وسنوات التخرج. تحقق منه قبل أن تعتمد عليه: اختبره على وظائف سابقة، وقارن النتائج بين فئات المرشحين حيث يسمح القانون، واحذف الحقول البديلة، واجعل شخصاً محدداً بالاسم يقرر كل قائمة مختصرة وكل رفض.
أبرز النقاط
- التحيّز في الفرز يأتي عادةً من البيانات والمعايير، لا من إهمال النموذج.
- اختبر أي أداة فرز على وظائف شغلتها فعلاً قبل أن تلمس مرشحاً حقيقياً.
- ابحث عن المؤشرات البديلة: الأسماء، والصور، والجنسية، وسنوات التخرج، والفجوات الوظيفية، وأسماء الجامعات.
- يقرر شخص كل قائمة مختصرة وكل رفض، ويُسجَّل السبب بكلماته.
- أعد الاختبار بعد كل تغيير في النموذج أو الأوامر أو المعايير.
كيف يدخل التحيّز إلى الفرز بالذكاء الاصطناعي؟
الحالة الأشهر ما زالت مفيدة. فبحسب Reuters عبر Euronews، أكتوبر 2018، تخلّت Amazon عن أداة توظيف تجريبية بعد أن تعلّمت معاقبة السير الذاتية التي تحتوي كلمة «women's»، لأنها دُرّبت على عقد من التعيينات التي كان معظمها من الذكور. لم يطلب منها أحد التمييز، بل فعل التاريخ ذلك.
النماذج اللغوية الحديثة لا تُدرَّب على تعييناتك، لكنها تلتقط الأنماط مع ذلك. اطلب من أحدها ترتيب السير الذاتية بحسب «الملاءمة القوية» وسيطبّق فكرته الخاصة عن القوة، وقد تفضّل جامعات معينة، أو مسيرات مهنية بلا انقطاع، أو الطلاقة في الإنجليزية لوظائف لا تحتاجها.
ما القواعد التي تنطبق على الذكاء الاصطناعي في التوظيف؟
تختلف القواعد من بلد إلى آخر، فاعتبر هذا خريطة لا استشارة. يوضح Lewis Silkin، أبريل 2024 أن قانون الاتحاد الأوروبي للذكاء الاصطناعي يعدّ الذكاء الاصطناعي المستخدم في الاستقطاب والاختيار عالي المخاطر، ومعظم أصحاب العمل فيه بصفة جهات مستخدِمة. ويقدّم مكتب خدمة قانون الذكاء الاصطناعي في المفوضية الأوروبية، تمت المراجعة في نوفمبر 2026 أداة مطابقة الوظائف وترتيب المرشحين التي تُصفّيهم مثالاً على الاستخدام عالي المخاطر.
وفي مدينة نيويورك، لا يجوز لأصحاب العمل ووكالات التوظيف استخدام أداة آلية لقرارات التوظيف دون تدقيق للتحيّز، بحسب الأسئلة الشائعة لإدارة حماية المستهلك والعامل في نيويورك، تمت المراجعة في نوفمبر 2026. ويتعامل أصحاب العمل في الخليج أيضاً مع بيانات المرشحين بموجب قانون البيانات الشخصية في الإمارات ونظام حماية البيانات الشخصية (PDPL) في السعودية. اسأل مستشارك القانوني عمّا ينطبق على توظيفك.
كيف تختبر أداة الفرز قبل استخدامها؟
- اكتب المعايير أولاً: المتطلبات الأساسية للوظيفة، متفق عليها مع مدير التوظيف قبل قراءة أي سيرة ذاتية.
- احذف الحقول البديلة: أزل الأسماء والصور وتواريخ الميلاد والجنسية والحالة الاجتماعية قبل أن يرى النموذج السيرة الذاتية، وانتبه لسنوات التخرج والفجوات.
- أعد تشغيل وظائف سابقة: شغّل الأداة على سير ذاتية مجهولة الهوية من وظائف شُغلت فعلاً، وقارن قائمتها المختصرة بقائمة مسؤول التوظيف.
- قارن بين الفئات: حيث يسمح لك القانون بالاحتفاظ بالبيانات، قارن نسب النجاح بين فئات المرشحين المختلفة وتحقق من أي فجوة.
- اختبارات التبديل: غيّر تفصيلاً واحداً، مثل الاسم أو الجامعة، في سير ذاتية متطابقة فيما عدا ذلك، وانظر إن كانت النتيجة تتغير.
- افحص النص المخفي: ابحث عن نص أبيض أو تعليمات داخل السير الذاتية، وهو خطر حقن أوامر تصنّفه قائمة OWASP لأهم 10 مخاطر لتطبيقات النماذج اللغوية الكبيرة تحت LLM01.
مثال توضيحي، والأرقام افتراضية: إذا اجتاز 40 من كل 100 سيرة ذاتية من فئة ما الأداة، و25 من كل 100 من فئة أخرى بمؤهلات مشابهة، فهذه الفجوة تحتاج إلى تفسير قبل الإطلاق، لا بعد ورود شكوى.
ما الذي يجب أن يقرره شخص دائماً؟
كل قائمة مختصرة وكل رفض. تلخّص الأداة كل سيرة ذاتية مقابل المعايير المتفق عليها وتعرض أدلتها، ويقرأ مسؤول التوظيف الملخص، ويفتح السيرة الذاتية عند الحاجة، ويقرر. ويعدّ إطار NIST لإدارة مخاطر الذكاء الاصطناعي، يناير 2023 الإشراف البشري والمساءلة جزءاً من إدارة مخاطر الذكاء الاصطناعي، وفي التوظيف يعني ذلك صاحب قرار محدداً بالاسم لكل نتيجة.
متى يكفي نهج أبسط؟
إذا كنت توظف بضعة أشخاص كل ربع سنة، فتجاوز الفرز الآلي. فبطاقة تقييم منظّمة، وقارئان، وسير ذاتية مجهولة الهوية، تمنحك معظم فائدة العدالة دون أي نموذج. ولا بأس بتلخيص السير الذاتية في أداة محادثة معتمدة، ما دام أحد لا يطلب منها ترتيب الأشخاص.
#أين تأتي Stennir؟
تشمل خدمة استشارات الذكاء الاصطناعي لدى Stennir الحوكمة: يرسم التدقيق المواضع التي يلمس فيها الذكاء الاصطناعي توظيفك، ومن يقرر، وما الذي يُسجَّل، وأي اختبارات تُجرى قبل الإطلاق وبعده. وحيث يستحق دعم الفرز البناء، يبنيه تنفيذ الذكاء الاصطناعي مع حذف المؤشرات البديلة، وأدلة لكل ملخص، واعتماد مسؤول التوظيف لكل قرار.
ويعلّم التدريب على الذكاء الاصطناعي مسؤولي التوظيف أين تخطئ مخرجات الفرز وكيف يعترضون عليها.
We are
تصمم Stennir دعماً للفرز يعرض أدلته وتختبره، مع شخص يقرر نتيجة كل مرشح.
We aren't
Stennir ليست أداة توظيف آلية، ولا جهة تدقيق للتحيّز بموجب أي قانون محدد، ولا مكتب محاماة.
ماذا يفعل رئيس استقطاب المواهب بعد ذلك؟
أدرج كل موضع يلمس فيه الذكاء الاصطناعي قراراً بشأن مرشح، بما في ذلك الأدوات التي فعّلها نظام تتبع المتقدمين (ATS) افتراضياً. ودوّن لكل منها من يقرر وهل اختُبر أي شيء. اقرأ الذكاء الاصطناعي للعمليات، والمثال العملي لفرز السير الذاتية، وما يجب أن يراه مجلس الإدارة قبل الإطلاق. ثم احجز مكالمة مدتها 30 دقيقة.
أسئلة شائعة
هل يمكن أن يكون الفرز بالذكاء الاصطناعي أعدل من البشر؟
يمكن أن يكون أكثر اتساقاً، لأنه يطبّق المعايير نفسها على كل سيرة ذاتية ولا يتعب أبداً. لكن الاتساق ليس عدالة: فالاستخدام المتسق لمعيار متحيّز يبقى متحيّزاً. والمكسب يأتي من معايير متفق عليها، وحذف المؤشرات البديلة، والاختبار المنتظم، وشخص يقرر كل نتيجة.
نظام تتبع المتقدمين لدينا فيه ترتيب مدمج بالذكاء الاصطناعي. هل استخدامه آمن؟
اسأل المزوّد على أي أساس يقوم الترتيب، وهل اختُبر للتحيّز، وما الأدلة التي يعرضها لكل درجة. ثم أجرِ إعادة تشغيل خاصة بك على وظائف سابقة. وإذا لم يستطع المزوّد شرح الترتيب، فاستخدم الملخصات بدلاً منه، وأبقِ الترتيب بيد مسؤولي التوظيف.
ما السجلات التي يجب أن نحتفظ بها؟
معايير كل وظيفة، وإصدار الأداة والأوامر المستخدمة، والملخص الذي حصل عليه كل مرشح، ومن قرر، والسبب بكلماته. واحتفظ بنتائج الاختبار قبل الإطلاق وبعد كل تغيير. وتتبع مدة الاحتفاظ قواعد حماية البيانات لديك، بالاتفاق مع مستشارك القانوني.
ماذا تحتاجون منا للبدء؟
رئيس استقطاب مواهب يتحمل مسؤولية النتيجة، وقائمة بكل ميزة ذكاء اصطناعي في أدوات التوظيف لديك، وسير ذاتية وقرارات مجهولة الهوية من بضع وظائف شُغلت، وجهة الاتصال لحماية البيانات لديك. وتستخدمها Stennir لاختبار ما تشغّله أصلاً قبل اقتراح أي شيء جديد.
