چطور هوش مصنوعی سوگیری در استخدام را کاهش یا تشدید می‌کند؟

 یکی از چالش‌های مهم در پروسه جذب متخصصین که از سوی تیم HR همیشه مطرح می‌شود، سوگیری در استخدام است. استفاده از هوش مصنوعی و الگوریتم‌های اتوماسیون استخدام، مزایا و معایب جالبی در این مسیر ایجاد کرده است. این الگوریتم‌ها هرکدام با افزایش کیفیت پروسه جذب می‌توانند یک انتخاب عالی برای نیروی انسانی باشند. اما لازم است بدانید که هوش مصنوعی به شکل مطلوبی می‌تواند سوگیری را کاهش داده و زمینه را برای استخدام افراد متخصص و باتجربه فراهم کند. در این مقاله به طور بسیار تخصصی قصد داریم در خصوص نحوه اثرگذاری هوش مصنوعی در سوگیری پروسه استخدام و کاهش یا تشدید این اثرگذاری اطلاعاتی را ارائه کنیم.

اگر برای شما هم اهمیت دارد که در خصوص هوش مصنوعی و سوگیری در پروسه استخدام اطلاعاتی کسب کنید، همراه ما باشید.

تاثیر هوش مصنوعی در پروسه استخدام

قبل از بررسی هر چیزی باید بدانید، تاثیر هوش مصنوعی در پروسه استخدام چیست؟ AI به چه صورت می‌تواند روند استخدام و جذب نیروها را ساده کند؟ درواقع هوش مصنوعی می‌تواند با استانداردسازی مراحل جذب نیرو، مصاحبه و بررسی رزومه‌ها و حذف احساسات انسانی دخیل در این پروسه، می‌تواند یک نتیجه مطلوب ارائه کند. زمانی که در این مسیرعوامل انسانی و ذهنی دخیل باشند، ریسک ایجاد تبعیض، تحت تاثیر قرار گرفتن و اشتباه در پروسه جذب نیرو چند برابر می‌شود. مطالعات انجام شده از سوی وب سایت بیزینس هاروارد نشان می‌دهد که ابزارهای استخدام مبتنی بر الگوریتم  هوش مصنوعی می‌توانند به طور نامحسوسی گروه‌های خاصی را حذف کنند. به همین دلیل لازم است تا متخصصین HR با نگاهی هوشمندانه‌تر و آگاهی از تمام جزییات برای مدیریت پروسه استخدام دست به کار شوند.

شناخت انواع سوگیری هوش مصنوعی در استخدام

با شناخت انواع سوگیری‌هایی که در پروسه استخدام توسط هوش مصنوعی انجام می‌شود، می‌توانید با آگاهی بیشتری اقدام کنید.

 1. سوگیری داده ‌محور Data Bias

هوش مصنوعی با سوگیری داده محور می‌تواند روند جذب را تغییر دهد. هوش مصنوعی برای تصمیم‌گیری و غربالگری به داده‌های تاریخی وابسته است و تمام فعالیت‌های قبلی در یک مجموعه می‌تواند براساس تاریخچه قبلی تحت تاثیر قرار گیرد. برای مثال اگر تمام داده‌ها نشان دهنده جذب افرادی از یک مذهب خاص یا نژاد خاص باشد، قطعا در سوگیری هوش مصنوعی شاهد درنظر گرفتن همین موضوع هستیم. این سوگیری حتی در پروسه استخدام نیرو مجموعه‌های مختلف نیر دیده می‌شود.

2. سوگیری الگوریتمی Algorithmic Bias

گاهی این سوگیری در الگوریتم اتفاق می‌افتد. این نوع سوگیری در بعضی شرایط که داده‌ها بی طرف هستند، باز هم دیده می‌شود. شما با چنین شرایطی می‌توانید به وضوح شاهد سوگیری در غربالگری باشید. مثلا وزن دهی الگوریتم به یک فیلد و موضوع خاص، از رایج‌ترین سوگیری‌هایی است که دیده می‌شود. بروز چنین سوگیری‌هایی مانع از جذب نیروهای متخصص و با استعداد می‌شود که در نهایت آسیب شدیدی به یک مجموعه وارد می‌کند.

3. سوگیری نمونه ‌گیری Sampling Bias

زمانی که داده‌های آموزشی فقط از گروه خاصی جمع‌آوری شده باشد، ریسک سوگیری نمونه گیری به شدت افزایش پیدا می‌کند. سوگیری نمونه گیری به شدت میتواند در ضعف نتایج تاثیرگذار باشد. چنین سوگیری به شدت می‌تواند در انتخاب افراد نامناسب برای یک جایگاه شغلی دخیل باشد. برای مثال زمانی که الگوریتم هوش مصنوعی برای تحلیل در زبان انگلیسی برنامه ریزی شده باشد، با عدم نمونه گیری از افراد به زبان‌های غیرانگلیسی شانس کم‌تری در تایید پیدا می‌کند.

 4. سوگیری تأیید Confirmation Bias

یکی دیگر از رایج‌ترین انواع سوگیری هوش مصنوعی در استخدام، تمایل متخصصین به تایید باورهای قبلی‌شان است. زمانی که طراحان الگوریتم یا تیم HR زمان تنظیم الگوریتم به شکل ناخوداگاه تمایل به تایید نظرات قبلی‌شان داشته باشند، این سوگیری ایجاد می‌شود. مثلا برای انتخاب یک جایگاه شغلی خاص، نیاز به انتخاب افراد درونگرا است و چنین سوگیری در برنامه ریزی هوش مصنوعی لحاظ می‌شود و شانس انتخاب از بین بسیاری از افراد کاهش پیدا می‌کند.

5. سوگیری برچسب ‌گذاری Labeling Bias

به عنوان یک سوگیری‌ هوش مصنوعی در پروسه استخدام، باید به برچسب گذاری اشاره کنیم. معمولا تمام الگوریتم‌های هوش مصنوعی برچسب گذاری خاص خودشان را دارا هستند تا به انتخاب افراد مشخص ختم شود. معمولا این برچسب گذاری‌ها باید به صورت هوشمندانه باشد تا مانع از انتخاب با تبعیض یا انتخاب متعصبانه شود.

 6. سوگیری زبانی Language Bias

هوش مصنوعی با دارا بودن الگوریتم‌های مختلف در استخدام می‌تواند پروسه جذب نیروی هر سازمان را پویاتر کند. زمانی که الگوریتم‌های پردازش زبان در AI امکان تحلیل بعضی اصطلاحات، سبک نوشتار یا جزییات زبانی خاصی را دارا نباشند، ریسک غربالگری ناعادلانه با سوگیری‌های خاص فراهم می‌شود. گاهی در رزومه‌نویسی، بعضی کلمات به اشتباه تحلیل می‌شوند و می‌توانند نتیجه نهایی انتخاب را تحت تاثیر قرار دهند.

7. سوگیری فرهنگی Cultural Bias

وقتی الگوریتم‌های استخدام بر اساس داده‌های فرهنگی خاصی برنامه ریزی شوند و امکان بررسی ارزش‌های دیگر را نداشته باشند، باز هم عده خاصی از پروسه استخدام خارج می‌شوند. به همین دلیل هوش مصنوعی باز هم می‌تواند به اشتباه، افراد لایقی را از این پروسه حذف کند.

 8. سوگیری ویژگی‌های غیرمرتبط Proxy Bias

گاهی سوگیری به‌صورت غیرمستقیم انجام می‌شود و متغیرهای مختلفی جایگزین ویژگی‌های تبعیض آمیز می‌شود. مثلا در بعضی موارد با تحلیل کد پستی می‌توان ناحیه جغرافیایی خاصی را هدف قرار داد و تبعیض طبقاتی را لحاظ کرد. به این مدل سوگیری، غیرمرتبط گرفته می‌شود و در بعضی مواقع می‌تواند زمینه را برای جذب نیروهای خاص فراهم کند.

هوش مصنوعی چگونه می‌تواند سوگیری را کاهش دهد؟

شاید برای شما هم جالب باشد که بدانید هوش مصنوعی می‌تواند سوگیری‌ در جذب نیرو را کاهش دهد. این روند به اشکال مختلفی اتفاق می‌افتد نیروهای متخصص واقعی را بدون هرگونه سوگیری شناختی در مجموعه جذب کند. معمولا AI می‌تواند با استانداردسازی فرآیندها و حذف محرک‌ها، به خوبی غربالگری در جذب نیرو را اجرا کند. استفاده از الگوریتم برای غربال اولیه افراد کاندید استخدام، می‌تواند معیارهای مهم و اثربخش در جایگاه شغلی مدنظر را برجسته کرده و تصمیم گیری براساس اطلاعات رزومه را پر رنگ‌تر کند. با چنین روندی اصلا شاهد تصمیم گیری براساس شکل ظاهری و نوع پوشش نخواهیم بود. هوش مصنوعی با گسترش دامنه جذب افراد، شرایطی را فراهم می‌کند تا افراد متخصص و باتجربه‌ای برای مصاحبه در جایگاه شغلی خاصی انتخاب شوند. الگوریتم‌ها می‌توانند رزومه‌هایی را پیدا کنند که از مسیرهای غیر معمول وارد شده‌اند. به همین دلیل جذب نیروی متخصص و پویا بسیار محتمل‌تر می‌شود. استفاده از آزمون‌های هوش مصنوعی یا مصاحبه براساس آن کمک زیادی می‌کند تا عادلانه‌تر در این پروسه جذب شوند. هوش مصنوعی می‌تواند سیستم‌ مناسبی ایجاد کند تا نتایج مورد بررسی قرار گیرند و شاخص نرخ انتخاب برای حوزه‌های مختلف تعیین شود. به این ترتیب باز هم ممیزی و تبعیض به کم‌ترین حد خود می‌رشد و هوش مصنوعی می‌تواند سوگیری را کاهش دهد.

 هوش مصنوعی چگونه می‌تواند سوگیری را افزایش دهد؟

نکته جالبی که در هوش مصنوعی باید مدنظر داشته باشید، اثرگذاری بر روی جذب نیرو و افزایش سوگیری است. AI به همان میزان که می‌تواند سوگیری را کاهش دهد، زمینه را برای افزایش آن نیز فراهم می‌کند. به همین دلیل باید با آگاهی از جزییات اثرگذاری آن در سوگیری، نگاهی آگاهانه داشته باشید. مثلا در این پروسه اگر داده‌های قبلی نشان دهنده تبعیض و ملاحظات خاصی باشد، ریسک ایجاد همان الگو و بازتولید آن در هوش مصنوعی چند برابر می‌شود. گاهی الگوریتم هوش مصنوعی به صورت کاملا مستقل عمل می‌کند و هیچ توضیح و شرحی بابت انتخاب افراد ارائه نمی‌کند. در چنین شرایطی اشتباهات کلیدی و انتخاب‌های نامناسب اصلا قابل شناسایی نیستند و ریسک بروز سوگیری ناخواسته چند برابر افزایش پیدا می‌کند. در بعضی شرایط AI با اعمال محدودیت‌هایی مثل محل زندگی، کد پستی یا نوع فایل رزومه، غربالگری خاصی را اعمال می‌کند. در این شرایط باز هم شاهد یک سوگیری خاص در انتخاب هستیم که شانس پیدا کردن افراد باتجربه و متخصص را کاهش می‌دهد. گاهی نیز وجود حلقه بازخورد تبعیض ‌آمیز موجب می‌شود تا الگوریتم افرادی را انتخاب کند که مشابه انتخاب شده‌های قبلی باشند. در این شرایط نیز افراد لایق و متخصص دیگر، شانس انتخاب را ازدست می‌دهند.

چگونه می‌توان سوگیری را اندازه گیری کرد؟

برای اندازه گیری سوگیری روش‌های مختلفی وجود دارد که می‌توانید با استفاده از آن‌ها میزان اثرگذاری AI را تشخیص دهید. این روش‌ها بسیار کارآمد است و می‌تواند شرایط را برای افزایش شانس جذب نیروی مناسب ارتقاء دهد.

·     عدالت گروهی: زمانی که اختلاف نرخ انتخاب بین گروه‌ها مطرح باشد، قطعا سوگیری رخ داده است. انتخاب از دو یا چند گروه مختلف کمک زیادی می‌کند تا بتوانید میزان سوگیری را تشخیص دهید.

·     عدالت فردی: برای بررسی سوگیری و میزان آن، می‌توانید مقایسه را انتخاب کنید. عدالت فردی در انتخاب بهترین راهی است که کمک می‌کند تا افراد با شرایط یکسان در یک نتیجه مشابه قرار گیرند. با این روش 2 نفر با پارامترهای یکسان باید نتیجه یکسانی داشته باشند.

·     ممیزی خارجی: زمانی که داده ها به صورت مستقل مورد بررسی قرار گیرند، می‌توان از یکسان بودن نتیجه برای افراد مشابه اطمینان حاصل کرد. زمانی که جزییات ورودی و خروجی مورد بررسی قرار گیرد می‌توان از بروز تبعیض اطمینان حاصل کرد.

روش‌های پیشگیری از سوگیری هوش مصنوعی در استخدام

قطعا هدف تیم HR استفاده از تکنولوژی جدید در پروسه استخدام و کاهش مدت زمان هدر رفت در این پروسه است. به همین دلیل استفاده از روش‌های پیشگیری از سوگیری AI می‌تواند رسیدن به چنین هدفی را پر رنگ‌تر کند. به این منظور استفاده از راهکارهای فنی مثل  پاکسازی داده‌های قبلی و ایجاد مانع در سوگیری می‌تواند تکنیک مناسبی باشد. یکی دیگر از روش‌های پیشگیری از این اتفاق، انتخاب اهدافی است که پیش‌بینی پذیری را کاهش می‌دهند و مطابق با عدالت شانس افراد را برای انتخاب افزایش می‌دهند. استفاده از مدل‌های قابل توضیح که وضعیت غربالگری را شرح می‌دهند، باز هم می‌تواند در پیشگیری از سوگیری مفید باشد و تیم HR را از نحوه انتخاب آگاه کند. از سوی دیگر می‌توانید با حفظ انسان در حلقه تصمیم‌گیری به شما کمک می‌کند تا مانع از سوگیری AI در انتخاب افراد شوید. اقدام مهم بعدی، آموزش تیم HR درباره محدودیت‌های الگوریتم و سوگیری‌های بالقوه آن است؛ به این ترتیب باز هم انتخاب‌های آگاهانه و دخالت‌های هوشمندانه انسانی امکان ایجاد یک شرایط مناسبی را فراهم می‌کند. طراحی شفاف فرآیند استخدام و اطلاع ‌رسانی به متقاضیان درباره استفاده از الگوریتم و محدودیت‌های آن باز هم شانس انتخاب عادلانه را فراهم می‌کند. مثلا اگر الگوریتم امکان تحلیل فایل تصویری را نداشته باشد، متقاضیان باید از این موضوع آگاه باشند. درنظر گرفتن شاخص‌های تبعیض و سوگیری‌های اشتباه در انتخاب، باز هم امکان پیشگیری از استخدام یا حذف افراد از پروسه استخدام را فراهم می‌کند.

سوالات متداول

نقش نیروی انسانی HR در کاهش سوگیری هوش مصنوعی چیست؟

نقش نیروی انسانی HR در کاهش سوگیری هوش مصنوعی بسیار حیاتی است؛ زیرا الگوریتم‌های استخدام در هوش مصنوعی، تنها به اندازه داده‌هایی که ورودی می‌گیرند، عادلانه و بی طرف عمل می‌کنند. اگر این داده‌ها عادلانه و بی‌طرف در الگوریتم قرار گیرند، قطعا نتایج مناسب‌تری را شاهد هستیم. متخصصان HR می‌توانند با نظارت بر فرآیند جمع‌آوری و پردازش داده‌ها، از ورود داده‌های دارای سوگیری جلوگیری کنند و نتایج واقعی‌تری را ایجاد کنند. در نظر گرفتن معیارهای اخلاقی و انسانی در سیستم سنجش اولیه به شدت می‌تواند سوگیری را کنترل کرده و نتایج بهتری ارائه کند تا افراد شایسته‌ای استخدام شوند. علاوه بر این، حضور فعال تیم HR در پایش عملکرد سیستم‌های هوش مصنوعی، امکان شناسایی خطاها و سوگیری‌های پنهان را فراهم می‌کند. متخصصان منابع انسانی در کاهش سوگیری هوش مصنوعی دخیل هستند و می‌توانند با تحلیل نتایج خروجی AI، الگوهای تبعیض‌ آمیز را شناسایی کرده و اقدامات اصلاحی انجام دهند.

هوش مصنوعی با چه تکنیکی می‌تواند فرد متخصصی را استخدام کند؟

برای این که هوش مصنوعی سوگیری اشتباهی نداشته باشد و فرد متخصصی را برای پروسه استخدام انتخاب کند، باید حتما از الگوریتم بی‌طرف استفاده شود. بی عدالتی در این پروسه به شدت می‌تواند به روند مصاحبه و جذب آسیب بزند و افراد متخصص زیادی را از این دایره حذف کند.

هوش مصنوعی چطور جلوی تصمیمات هیجانی را کاهش می‌دهد؟

هوش مصنوعی شرایطی را فراهم می‌کند تا افراد بدون اعمال تصمیمات هیجانی، شانس انتخاب افراد متخصصی را دارا باشند. زمانی که انسان به صورت مستقل اقدام به انتخاب افراد می‌کند، به شکل ناخواگاه می‌تواند عده خاصی را برای ورود به پروسه مصاحبه مورد تایید قرار می‌دهد. این تایید گاهی آنقدر هیجانی است که در صورت بازبینی و تکرار شرایط، قطعا فرد برای ورود به مرحله بعدی مورد تایید قرار نخواهد گرفت. گاهی این شرایط برعکس است. بدیهی است که وجود AI به شدت می‌تواند تصمیمات هیجانی و لحظه‌ای را کنترل کند.

کلام آخر

دنیای امروز ما به وسیله هوش مصنوعی احاطه شده است، استفاده از هوش مصنوعی در استخدام، می‌تواند ابزار قدرتمندی برای افزایش سرعت، کارایی، دقت و کیفیت در انتخاب افراد باشد. اما باید بدانید که هوش مصنوعی سوگیری‌های مختلفی ایجاد می‌کند و به همان میزان سوگیری‌های انسانی را کاهش می‌دهد. به همین دلیل در نهایت باید به ترکیب عملکرد انسانی در کنار هوش مصنوعی اشاره کنیم تا انتخاب نهایی افراد برای جذب و استخدام کاملا مطابق با پتانسیل واقعی‌شان و دور از تبعیض باشد.