A triagem de CV com IA pode ser enviesada, porque aprende com contratações passadas e lê indicadores indiretos como nomes, universidades e anos de conclusão do curso. Verifique-a antes de confiar nela: teste-a em funções passadas, compare resultados entre grupos de candidatos quando a lei o permitir, retire os campos que funcionam como indicadores indiretos e mantenha uma pessoa identificada a decidir cada lista restrita e cada rejeição.
#Pontos principais
- O enviesamento na triagem vem normalmente dos dados e dos critérios, não de descuido do modelo.
- Teste qualquer ferramenta de triagem em funções já preenchidas antes de tocar num candidato real.
- Procure indicadores indiretos: nomes, fotografias, nacionalidade, anos de conclusão do curso, interrupções de carreira e nomes de universidades.
- Uma pessoa decide cada lista restrita e cada rejeição, e o motivo fica registado nas suas próprias palavras.
- Volte a testar APós cada alteração ao modelo, ao prompt ou aos critérios.
#Como entra o enviesamento na triagem com IA?
O caso mais conhecido continua a ser instrutivo. Segundo a Reuters via Euronews, outubro de 2018, a Amazon abandonou uma ferramenta experimental de recrutamento depois de esta ter aprendido a penalizar CV com a palavra 'women's', porque tinha sido treinada com uma década de contratações maioritariamente masculinas. Ninguém lhe disse para discriminar; foi o histórico.
Os modelos de linguagem atuais não são treinados com as contratações da empresa, mas continuam a captar padrões. Peça a um que ordene CV por 'boa adequação' e ele aplica a sua própria ideia de bom, que pode favorecer certas universidades, carreiras sem interrupções ou fluência em inglês para funções que não a exigem.
#Que regras se aplicam à IA no recrutamento?
As regras variam por país, por isso trate isto como um mapa, não como aconselhamento. A Lewis Silkin, abril de 2024 explica que o Regulamento Europeu da IA trata a IA usada no recrutamento e na seleção como de risco elevado, atuando a maioria dos empregadores como responsáveis pela implantação. O serviço de apoio ao Regulamento da IA da Comissão Europeia, consultado em novembro de 2026 dá como exemplo de utilização de risco elevado uma ferramenta de correspondência e ordenação de candidaturas que filtra candidatos.
Em Nova Iorque, empregadores e agências de emprego não podem usar uma ferramenta automatizada de decisão de emprego sem uma auditoria de enviesamento, segundo as perguntas frequentes do NYC Department of Consumer and Worker Protection, consultado em novembro de 2026. Os empregadores do Golfo tratam também dados de candidatos ao abrigo da lei de dados pessoais dos EAU e do PDPL saudita. Pergunte ao seu advogado quais se aplicam ao recrutamento da empresa.
#Como testar uma ferramenta de triagem antes de a usar?
- Escrever primeiro os critérios: os requisitos obrigatórios da função, acordados com o responsável pela contratação antes de ler qualquer CV.
- Retirar campos indiretos: eliminar nomes, fotografias, datas de nascimento, nacionalidade e estado civil antes de o modelo ver o CV, e verificar anos de conclusão do curso e interrupções.
- Repetir funções passadas: correr a ferramenta sobre CV anonimizados de funções já preenchidas e comparar a sua lista restrita com a do recrutador.
- Comparar entre grupos: quando a lei permite guardar esses dados, comparar as taxas de aprovação de diferentes grupos de candidatos e investigar qualquer diferença.
- Testes de troca: alterar um único detalhe, como um nome ou uma universidade, em CV de resto idênticos e ver se o resultado muda.
- Verificar texto oculto: procurar texto a branco ou instruções dentro dos CV, um risco de prompt injection classificado como LLM01 pelo OWASP Top 10 for LLM Applications.
Exemplo ilustrativo, com números hipotéticos: se a ferramenta aprova 40 de 100 CV de um grupo e 25 de 100 de outro com qualificações semelhantes, essa diferença precisa de explicação antes do arranque, não depois de uma reclamação.
#O que deve uma pessoa decidir sempre?
Cada lista restrita e cada rejeição. A ferramenta resume cada CV face aos critérios acordados e mostra a evidência; um recrutador lê o resumo, abre o CV quando necessário e decide. O NIST AI Risk Management Framework, janeiro de 2023 trata a supervisão humana e a responsabilização como parte da gestão do risco de IA, e no recrutamento isso significa um decisor identificado para cada resultado.
#Quando basta uma abordagem mais simples?
Se a empresa contrata poucas pessoas por trimestre, dispense a triagem automatizada. Uma grelha de avaliação estruturada, dois leitores e CV anonimizados dão a maior parte do benefíCIO de equidade sem qualquer modelo. Resumir CV numa ferramenta de chat aprovada não tem problema, desde que ninguém lhe peça para ordenar pessoas.
#Onde entra a Stennir?
O serviço de consultoria em IA da Stennir inclui governação: a auditoria mapeia onde a IA toca no recrutamento, quem decide, o que fica registado e que testes correm antes e depois do arranque. Onde valer a pena construir apoio à triagem, a implementação de IA constrói-o com remoção de indicadores indiretos, evidência para cada resumo e um recrutador a aprovar cada decisão.
A formação em IA ensina os recrutadores onde os resultados da triagem falham e como os contestar.
We are
A Stennir desenha e testa apoio à triagem que mostra a sua evidência, com uma pessoa a decidir cada resultado de candidatura.
We aren't
A Stennir não é uma ferramenta de contratação automatizada, não é auditora de enviesamento ao abrigo de nenhuma lei específica e não é um escritório de advogados.
#O que deve fazer a seguir um responsável de talento?
Liste todos os pontos em que a IA já toca numa decisão sobre candidatos, incluindo funcionalidades que o ATS ativou por defeito. Para cada um, registe quem decide e se algo foi testado. Leia IA para operações, o exemplo prático de triagem de CV e o que o conselho de administração deve ver antes da implementação. Depois agende uma conversa de 30 minutos.
#Perguntas frequentes
A triagem com IA pode alguma vez ser mais justa do que as pessoas?
Pode ser mais consistente, porque aplica os mesmos critérios a cada CV e nunca se cansa. Mas consistência não é equidade: aplicar de forma consistente um critério enviesado continua a ser enviesado. O ganho vem de critérios acordados, remoção de indicadores indiretos, testes regulares e uma pessoa a decidir cada resultado.
O nosso ATS tem ordenação por IA integrada. É seguro usá-la?
Pergunte ao fornecedor em que se baseia a ordenação, se foi testada quanto a enviesamento e que evidência mostra para cada pontuação. Depois faça o seu próprio teste com funções passadas. Se o fornecedor não conseguir explicar a ordenação, use resumos e deixe a ordenação com os recrutadores.
Que registos devemos guardar?
Os critérios de cada função, a versão da ferramenta e do prompt usados, o resumo de cada candidato, quem decidiu e o motivo nas suas próprias palavras. Guarde os resultados dos testes anteriores ao arranque e os de depois de cada alteração. A conservação segue as regras de proteção de dados, acordadas com o seu advogado.
O que precisam de nós para começAR?
Um responsável de talento que responda pelo resultado, uma lista de todas as funcionalidades de IA nas ferramentas de recrutamento, CV anonimizados e decisões de algumas funções já preenchidas, e o contacto de proteção de dados. A Stennir usa-os para testar o que já está em uso antes de sugerir algo novo.
