Lo screening dei CV con l'AI può essere discriminatorio, perché impara dalle assunzioni passate e legge indicatori indiretti come nomi, università e anni di laurea. Verificatelo prima di farvi affidamento: testatelo su ruoli passati, confrontate gli esiti tra gruppi di candidati dove la legge lo consente, rimuovete i campi che fanno da indicatori indiretti e lasciate a una persona indicata per nome la decisione su ogni shortlist e ogni esclusione.
#Punti chiave
- La distorsione nello screening nasce di solito dai dati e dai criteri, non da una disattenzione del modello.
- Testate qualsiasi strumento di screening su ruoli già coperti prima che tocchi un candidato reale.
- Cercate gli indicatori indiretti: nomi, foto, nazionalità, anni di laurea, interruzioni di carriera e nomi delle università.
- Una persona decide ogni shortlist e ogni esclusione, e la motivazione viene registrata con parole sue.
- Ripetete i test dopo ogni modifica al modello, al prompt o AI criteri.
#Come entra la distorsione nello screening con l'AI?
Il caso più noto è ancora istruttivo. Secondo Reuters tramite Euronews, ottobre 2018, Amazon ha abbandonato uno strumento sperimentale di selezione dopo che aveva imparato a penalizzare i CV contenenti la parola "women's", perché era stato addestrato su dieci anni di assunzioni per lo più maschili. Nessuno gli aveva detto di discriminare; lo aveva fatto la storia.
I modelli linguistici moderni non sono addestrati sulle vostre assunzioni, ma assorbono comunque degli schemi. Se chiedete a uno di classificare i CV per "forte aderenza al ruolo", applica la propria idea di forte, che può favorire certe università, carriere senza interruzioni o la padronanza dell'inglese per ruoli che non la richiedono.
#Quali regole si applicano all'AI nelle assunzioni?
Le regole cambiano da paese a paese, quindi consideratela una mappa, non una consulenza. Lewis Silkin, aprile 2024 spiega che l'AI Act dell'UE considera ad alto rischio l'AI usata per il reclutamento e la selezione, e che la maggior parte dei datori di lavoro agisce come deployer. Il servizio di assistenza sull'AI Act della Commissione europea, consultato a novembre 2026 cita uno strumento di abbinamento e classificazione che filtra i candidati come esempio di uso ad alto rischio.
A New York City, datori di lavoro e agenzie per il lavoro non possono usare uno strumento automatizzato per le decisioni sull'impiego senza un audit sulla discriminazione, secondo le FAQ del dipartimento per la tutela di consumatori e lavoratori di NYC, consultate a novembre 2026. Anche i datori di lavoro del Golfo trattano i dati dei candidati AI sensi della legge sui dati personali degli Emirati e del PDPL saudita. Chiedete al vostro legale quali norme si applicano alle vostre assunzioni.
#Come testare uno strumento di screening prima di usarlo?
- Scrivete prima i criteri: i requisiti indispensabili per il ruolo, concordati con l'hiring manager prima di leggere qualsiasi CV.
- Rimuovete i campi indiretti: eliminate nomi, foto, date di nascita, nazionalità e stato civile prima che il modello veda il CV, e verificate anni di laurea e interruzioni.
- Riproducete ruoli passati: applicate lo strumento a CV anonimizzati di ruoli già coperti e confrontate la sua shortlist con quella del recruiter.
- Confrontate tra gruppi: dove la legge vi consente di detenere i dati, confrontate i tassi di superamento dei diversi gruppi di candidati e indagate qualsiasi scarto.
- Test di sostituzione: cambiate un solo dettaglio, come un nome o un'università, in CV per il resto identici e verificate se il risultato cambia.
- Cercate testo nascosto: verificate la presenza di testo bianco o istruzioni nei CV, un rischio di prompt injection classificato come LLM01 dalla OWASP Top 10 for LLM Applications.
Esempio illustrativo, con numeri ipotetici: se lo strumento fa passare 40 CV su 100 di un gruppo e 25 su 100 di un altro con qualifiche simili, quello scarto va spiegato prima del go-live, non dopo un reclamo.
#Che cosa deve decidere sempre una persona?
Ogni shortlist e ogni esclusione. Lo strumento sintetizza ogni CV rispetto AI criteri concordati e mostra le evidenze; un recruiter legge la sintesi, apre il CV se necessario e decide. Il NIST AI Risk Management Framework, gennaio 2023 considera la supervisione umana e la responsabilità parte della gestione del rischio AI, e nelle assunzioni questo significa una persona indicata per nome che decide ogni esito.
#Quando basta un approccio più semplice?
Se assumete poche persone a trimestre, lasciate perdere lo screening automatizzato. Una scheda di valutazione strutturata, due lettori e CV anonimizzati offrono gran parte del beneficio in termini di equità senza alcun modello. Sintetizzare i CV in uno strumento di chat approvato va bene, purché nessuno gli chieda di classificare le persone.
#Qual è il ruolo di Stennir?
Il servizio di consulenza AI di Stennir comprende la governance: l'audit individua dove l'AI interviene nelle vostre assunzioni, chi decide, che cosa viene registrato e quali test vengono eseguiti prima e dopo il go-live. Dove vale la pena costruire un supporto allo screening, l'implementazione AI lo realizza con la rimozione degli indicatori indiretti, le evidenze per ogni sintesi e un recruiter che approva ogni decisione.
La formazione AI insegna AI recruiter in che cosa sbaglia l'output dello screening e come metterlo in discussione.
We are
Stennir progetta e testa un supporto allo screening che mostra le proprie evidenze, con una persona che decide l'esito per ogni candidato.
We aren't
Stennir non è uno strumento di assunzione automatizzata, non è un auditor sulla discriminazione AI sensi di una legge specifica e non è uno studio legale.
#Che cosa dovrebbe fare adesso un responsabile talent?
Elencate ogni punto in cui l'AI interviene già in una decisione sui candidati, compresi gli strumenti che il vostro ATS ha attivato per impostazione predefinita. Per ciascuno, annotate chi decide e se è stato testato qualcosa. Leggete AI per le operations, l'esempio pratico sullo screening dei CV e che cosa dovrebbe vedere il consiglio di amministrazione prima del rollout. Poi prenotate una call di 30 minuti.
#Domande frequenti
Lo screening con l'AI può essere più equo delle persone?
Può essere più coerente, perché applica gli stessi criteri a ogni CV e non si stanca mai. Ma coerenza non significa equità: applicare in modo coerente un criterio distorto resta discriminatorio. Il beneficio viene da criteri concordati, rimozione degli indicatori indiretti, test regolari e una persona che decide ogni esito.
Il nostro ATS ha una classificazione con AI integrata. È sicuro usarla?
Chiedete al fornitore su che cosa si basa la classificazione, se è stata testata per la discriminazione e quali evidenze mostra per ogni punteggio. Poi fate un vostro test su ruoli passati. Se il fornitore non sa spiegare la classificazione, usate le sintesi e lasciate la classificazione AI vostri recruiter.
Quali registrazioni dovremmo conservare?
I criteri di ogni ruolo, la versione dello strumento e del prompt usati, la sintesi ricevuta da ogni candidato, chi ha deciso e la motivazione con parole sue. Conservate i risultati dei test prima del go-live e dopo ogni modifica. I tempi di conservazione seguono le vostre regole sulla protezione dei dati, concordate con il vostro legale.
Che cosa vi serve da parte nostra per iniziare?
Un responsabile talent che risponda del risultato, un elenco di tutte le funzionalità di AI nei vostri strumenti di selezione, CV anonimizzati e decisioni di alcuni ruoli già coperti, e il vostro referente per la protezione dei dati. Stennir li usa per testare ciò che già utilizzate prima di proporre qualcosa di nuovo.
