自動篩選工具

篩選工具可以使用一種叫做自然語言處理的技術來分析簡曆或個人陳述中的文本。在自動簡曆篩選工具的例子中，算法可能已經在現有的簡曆庫中進行了訓練，在被告知哪些簡曆得分高，哪些得分低後，該工具將學習在評估新簡曆時尋找的模式和特征。

確定你正在考慮的工具是否適合你的目標，是否適合你的招聘過程，如果是，它將如何適應你更廣泛的招聘過程是很重要的。作為考慮的一部分，您應該在現有流程的上下文中評估該工具而且您正在考慮的替代工具。例如，你是否能夠清楚地說明自動篩選工具如何比基於遊戲或基於任務的評估更有效地實現你的目標?

➔與供應商討論您希望該工具如何工作，並確保它能滿足您的要求，即它如何優先排序和評分簡曆。

• 除了關鍵詞搜索之外，你還可以詢問這個工具如何給簡曆打分。例如，是否會考慮到:教育背景;就業缺口;正式和非正式的培訓?
• 確保關鍵字搜索與特定的職位廣告相一致，以使候選人能夠準確地調整他們的申請。

➔決定這個工具將如何適應你的決策過程，以及申請人的分數或排名將如何使用和加權。

例如，良好的實踐是，人類使用分數作為評估的一部分，而不是完全依賴數據驅動工具提供的評估。

2.1精度

重要的是要確保產品分配的評分是基於與應用程序流程和角色相關的因素。

➔要求供應商提供針對特定角色的工具演示，以評估其推薦的候選人是否適合該角色並具有適當的技能集。

要求查看被工具丟棄的簡曆樣本，以檢查是否有假陰性。

2.2偏見和歧視

這種工具在判斷簡曆時使用歧視性因素的例子有很多。例如，介紹中提到的Amazon工具。

篩選工具的特別風險在於它嵌入了習得的偏見。這就是數據驅動工具“學習”如何基於現有就業數據做出招聘決策的地方。如果數據中存在偏見模式，那麼數據驅動的工具可能會重複這些模式，這可能導致不公平。例如，如果你現在和過去的員工中有不成比例的比例是男性，該工具可能會重複這種模式，並推薦較少的女性進行招聘。對於這些類型的工具，這種歧視可以直接或間接地發生;簡曆上的很多信息都可以作為強大的代理受保護的特點．例如，雖然有薪工作的年數可以反映候選人的經驗，但它也可以代表年齡。

➔在篩選簡曆時，要考慮哪些能力和技能是需要評估的

• 概述使用您所選擇的能力和技能的潛在副作用，並在可能的情況下減輕這些副作用。(例如，如果該工具考慮了就業差距，考慮這可能會不成比例地影響負有照顧責任的候選人)。

➔考慮一下自動篩選工具提供商的聲譽和曆史。

➔了解是否存在不公平:

• 收集被該工具打分高的候選人的信息，並將其與更廣泛的申請候選人進行比較，可能表明該工具在給候選人打分的方式上是否存在偏見。

➔考慮自己運行偏見測試，在工具的試點和整個使用過程中:為了評估與實際招聘過程相關的工具所產生的任何潛在偏見，請考慮使用來自不同背景的候選人存檔的現有應用程序對係統進行測試。注意:

• 在獲得明確同意的情況下，英國數據保護法允許為測試公平性而收集和分析人口數據。

平等影響評估可能是考慮與歧視有關的重要問題的有用工具，強烈建議對可能對決策產生重大影響的工具進行平等影響評估，特別是在涉及大量申請人的情況下。

2.3透明度和正當程序

求職者和招聘人員都可能對人力在招聘過程中作用的減弱感到緊張:清晰的溝通和透明可能有助於緩解這些擔憂。

在流程中建立透明度的步驟:。

➔理解工具是否僅僅基於自動化處理做出決策(第22條是否適用):充分了解數據驅動係統在你的組織內部是如何工作的，決策的依據是什麼，以及人力監督的程度。

• 如果此規定確實適用，請確保您有合法的依據，並為人工幹預、個人表達其觀點以及在需要時進行人工審查提供路徑。
• 采取適當措施確保履行GDPR職責，包括進行數據保護影響評估(dbia)。檢查供應商是否也進行了工具的dppa是一個很好的實踐。關於履行第22條職責的更多信息，可以在ICO網站上找到在這裏．

➔向應聘者清楚地說明，自動篩選工具將作為麵試過程的一部分。包括信息:

• 成功的標準是什麼。
• 該工具的得分如何有助於對候選人的整體評估。
• 應聘者如何與應聘者取得聯係，對涉及自動簡曆篩選工具的招聘決定提出上訴或挑戰?
• 應聘者如何就他們的經曆提供反饋。

2.4數據保護

自動篩選工具涉及數據保護法，因為它們涉及個人數據(與可識別的個人有關)。明智的做法是尋求確保您所選擇的供應商的做法符合英國GDPR的要求。

您的數據保護責任將由您與技術供應商關係的性質決定。作為招聘人員，你可能是聯合數據控製者(決定數據處理的目的和處理方法)。如果供應商也使用從你的麵試中獲得的候選人的數據來訓練他們的算法，他們也將成為一個控製器，因為他們正在決定處理方法，因此獲得相關的責任．

許多其他數據驅動的招聘工具(如定向在線廣告)允許對你作為招聘人員訪問的數據進行控製。然而，對於一個處理簡曆和個人陳述的自動篩選工具，你對候選人包含的數據控製較少，而且至少有一些候選人很有可能包含敏感的個人數據，包括英國GDPR下的特殊類別數據。這就需要對數據控製者和數據處理者的數據保護法的遵從性承擔額外的責任，因此，您應該仔細考慮需要采取什麼步驟來確保您的數據處理符合GDPR的要求，此外，該工具沒有直接使用受保護的特征數據作為關於候選人的決策基礎(這可能構成《平等法案》下的直接歧視)。根據工具所基於的底層模型的可解釋性級別，這可能並不容易實現。

檢查是否符合數據保護法的步驟:

➔在簽訂采購合同之前，就數據控製者的角色(供應商或招聘人員或兩者)達成一致——控製者將負責遵守並證明符合英國GDPR。

➔確保供應商的做法符合英國GDPR的要求，特別注意適用於特殊類別的數據．這包括:

• 了解候選人的數據在未來將如何被使用。例如，如果它被用來訓練供應商的模型，在與該工具交互之前，將需要候選人的同意。
• 確保為任何數據存儲建立了健壯的流程，並建立了刪除數據的機製。

➔完成數據保護影響評估(dbia)—您可能需要與供應商一起完成此評估。

• 最好是發布dbia，以便申請人和工作人員能夠訪問它。

➔在為平等和公平監測而收集敏感個人數據時，請確保:

• 候選人會得到適當的通知，會得到關於數據將如何使用的明確解釋，也會有選擇退出的機會;
• 這些數據不會意外地“泄露”到決策過程中;它被用圍欄隔開。

積極主動的溝通和招聘過程的透明度對於包容性非常重要。當麵試過程中涉及到數據驅動的工具時，尤其如此，因為候選人可能不清楚決策是如何做出的。

➔實際上，這可能包括向申請人提供一份文件，概述如下:

• 使用自動篩選工具的理由。
• 工具如何構成決策過程的一部分。
• 特定角色的成功標準。
• 如果一個招聘決定使用了自動篩選工具，求職者如何聯係對方提出上訴?
• 應聘者如何就他們的經曆提供反饋。

➔一旦工具投入使用，請根據上麵列出的關鍵考慮因素，持續監控和評估其影響。

人工審查員應該評估高分和低分簡曆的樣本，以理解工具的決定。如果工具的分數與人工給出的分數不一致，請重新查看工具的評分標準。