A utilização de sistemas baseados em Inteligência Artificial (IA) tornou-se uma prática comum nos processos de seleção e contratação de empregos, tanto no Brasil quanto internacionalmente.
Uma questão inicial que surge diz respeito à necessidade do empregador informar os candidatos sobre a análise de seus currículos ou dados por meio de ferramentas de IA. Embora no Brasil não exista legislação específica exigindo essa notificação, parece ser uma prática benéfica que as empresas adotem. Isso pode ser feito em conjunto com a informação sobre o acesso e armazenamento dos dados pessoais, seguindo os parâmetros da Lei Geral de Proteção de Dados (LGPD).
Outro ponto a ser considerado diante do crescente uso da IA no processo seletivo é avaliar se esses sistemas, ainda envoltos em controvérsias, especialmente do ponto de vista ético, têm contribuído para reduzir ou agravar situações de discriminação. Ou seja, se a IA também está sujeita a vieses discriminatórios.
Dentro desse contexto, é essencial abordar duas questões cruciais: quem é responsável pela base de dados do algoritmo de aprendizado de máquina e qual é a verdadeira intenção do empregador. Quando dados com um determinado perfil são inseridos (mesmo que reflitam a composição atual dos funcionários da empresa ou dos currículos recebidos), os algoritmos tendem a selecionar candidatos com atributos semelhantes, reproduzindo padrões preexistentes que, muitas vezes, já excluem mulheres e pessoas negras de forma mais significativa do que homens brancos.
Assim, é inviável isentar de responsabilidade quem desenvolveu e utilizou a IA pelos vieses discriminatórios presentes em um programa de seleção. Essa anomalia decorre do desenvolvimento do sistema e da sua utilização sem testes adequados. Quanto à intenção do empregador, apesar de ser ilegal, a IA permite a aplicação de filtros para a contratação, podendo ser utilizada para uma seleção discriminatória.
Por outro lado, considerando que o uso de sistemas de IA nos processos de contratação é uma realidade inevitável, é crucial avaliar a viabilidade de corrigir esses programas para evitar a chamada 'discriminação algorítmica'. É possível monitorar e revisar os sistemas de modo a não permitir que sejam alimentados apenas com dados de uma parte da população, o que reproduziria os vieses discriminatórios atuais? Há mecanismos para fiscalizar ou responsabilizar os empregadores em casos de uso de IA para discriminar candidatos?
Mesmo diante da ausência de respostas para essas questões, caso um programa de IA seja utilizado para seleção de candidatos com viés discriminatório, o empregador assume o risco de enfrentar reclamações por parte dos candidatos ou questionamentos do Ministério Público do Trabalho por violação do princípio da não discriminação (art. 7º, XXX da CF e Convenção 111 da OIT). Isso ocorre porque os candidatos devem ter igualdade de oportunidades quando possuem habilidades técnicas equivalentes, e qualquer distorção que caracterize discriminação, seja praticada por um ser humano ou por uma máquina, é injustificável.
Por fim, é essencial destacar que os sistemas de IA podem capturar dados objetivos de diversidade. No entanto, a real mensuração da inclusão, ou seja, o quão efetivamente os grupos minoritários são integrados em um ambiente de trabalho (além dos dados objetivos ou numéricos), permanece como uma tarefa complexa. Isso demanda atenção não só dos programas de IA, mas também dos seres humanos.
