Ler Resumo
Sistemas de recrutamento e seleção automatizados, chatbots que atendem clientes, algoritmos que ajustam preços em tempo real e mecanismos antifraude que monitoram transações. São apenas alguns exemplos cotidianos para o fato de que, hoje, muitas decisões que moldam carreiras e consumo estão nas mãos de redes de “agentes inteligentes”.
Empreender e coordenar uma empresa agora pressupõem parcerias entre humanos e máquinas que trazem ganhos reais em termos de velocidade, escala e eficiência. O desafio é estruturar essa transformação tecnológica de modo que ela esteja alinhada aos princípios organizacionais de longo e prazo – e a fim de gerar valor sustentável, preservando a confiança dos stakeholders.
De acordo com um relatório da McKinsey & Company, 88% das empresas afirmam usar ferramentas de inteligência artificial (IA) em pelo menos uma função de negócios – um salto considerável em relação aos 78% do ano anterior. Mas apenas 39% dessas organizações relatam impacto mensurável sobre o resultado operacional. Este é um sinal de que, apesar do entusiasmo, poucas capturam valor de forma consistente.
Esses números indicam: estamos em uma corrida pela automação, muitas vezes sem o devido preparo para lidar com as implicações éticas, culturais e operacionais.
Por que a “velocidade sem governança” é perigosa
A busca por resultados rápidos pode levar empresas a adotarem ferramentas de IA sem refletir sobre os impactos dessa escolha. Quando as decisões automatizadas afetam pessoas – no recrutamento, por exemplo, em avaliações, no atendimento ou na concessão de crédito), a falta de transparência, de supervisão ou de critérios claros transforma a “opacidade algorítmica” em um problema.
Um caso histórico da Amazon, de 2018, ilustra bem essa questão. Na época, a empresa revelou que deixaria de usar seu sistema de recrutamento porque ele desvalorizava currículos de mulheres. Isso porque os desenvolvedores do algoritmo haviam se baseado em dados históricos da Amazon – e eles abarcavam períodos em que a maioria dos profissionais contratados para áreas de tecnologia, por exemplo, eram homens.
Mais recentemente, em junho de 2025, a Justiça do Trabalho brasileira condenou o iFood por “falha algorítmica racista” depois que o sistema de reconhecimento facial do aplicativo da empresa de entregas bloqueou um entregador negro que havia mudado seu corte de cabelo. O caso criou o seguinte precedente legal: o algoritmo erra, a empresa paga a conta, seja com dinheiro ou com a própria reputação.
No mesmo período, a 99Pop foi acusada de usar um algoritmo em seu aplicativo que criava uma “taxa de pobreza”, penalizando clientes de regiões periféricas ou com histórico de cancelamento – o que também afetou diretamente a reputação da marca.
Moral da história? Sem revisão humana nem critérios transparentes, a automação pode reproduzir ou mesmo desigualdades sociais, além de minar a confiança de colaboradores, candidatos e clientes.
Em ambientes regulatórios cada vez mais exigentes, a “explicabilidade” e a “auditabilidade” dos algoritmos se tornaram requisitos básicos de responsabilidade corporativa. Mas é responsabilidade do gestor decidir se as máquinas vão assumir sem supervisão ou apenas desempenhar funções auxiliares.
Como equilibrar automação e responsabilidade
As empresas precisam construir governança sólida desde o início. O primeiro passo é saber exatamente quais áreas têm redes de agentes inteligentes (RAI) tomando decisões. Afinal, não existem mais máquinas isoladas tomando decisões, mas ecossistemas inteiros de agentes autônomos. O risco da falta de supervisão, portanto, é errar em escala.
Crie um inventário de todos os processos que usam RAIs e classifique as decisões de acordo com o impacto (baixo, médio ou alto) sobre as pessoas. Processos automáticos de alto impacto, como triagem de candidatos ou liberação de crédito, por exemplo, não podem ficar sem supervisão – e qualquer agente demanda testes prévios em ambientes controlados, que permitem identificar vieses e comportamentos inesperados, além de medir o impacto do sistema em cenários diversos. Após essa etapa, pilotos com grupos pequenos ou processos pouco críticos ajudam validar as decisões.
Também é necessário criar um comitê multidisciplinar que concentre conhecimento técnico, jurídico, humano e estratégico. Caberá a esse comitê aprovar ou rejeitar tecnologias, definir critérios mínimos de dados, estabelecer limites à automação em cada processo, supervisionar auditorias, revisar incidentes e criar métricas de qualidade algorítmica.
Outro ponto essencial é a documentação. É preciso questionar: quais dados alimentam o modelo; quais parâmetros foram usados; quando o algoritmo foi atualizado da última vez; quem aprovou a implementação e qual lógica ele segue. Além disso, é preciso guardar logs e registrar as decisões feitas pela IA, que permitem auditorias e revisão quando os resultados forem questionados. Sem documentação, qualquer investigação (interna ou externa) se torna um processo confuso e de alto risco.
Mais um aspecto fundamental da “ética algorítmica”: comunicar com clareza onde e como exatamente a IA está sendo usada na empresa. Não é necessário divulgar códigos-fonte, mas explicar quando uma decisão é assistida por sistemas automatizados, qual é o objetivo do recurso e como solicitar uma revisão. Essa transparência reduz ruídos, aumenta a confiança e cria previsibilidade.
Ética é um diferencial
A adoção ética de IA não exige que todos os profissionais aprendam a programar, mas que entendam como os algoritmos funcionam, onde podem falhar e quando a intervenção humana é necessária. Trata-se de uma nova competência, a “alfabetização algorítmica”, que permite às equipes fazer perguntas estratégicas e atuar como guardiãs das decisões da empresa.
Tenha em mente que implementar ferramentas de IA não é um projeto com início, meio e fim. É um processo contínuo de monitoramento. Modelos envelhecem, parâmetros se degradam e padrões mudam. O ambiente de dados não é estático, por isso, é indispensável avaliar métricas de eficiência e indicadores de qualidade ética periodicamente a fim de garantir que a automação traga benefícios sem criar riscos silenciosos nos bastidores.
Em um contexto em que a tecnologia se torna cada vez mais acessível, o diferencial está em usá-la de forma equilibrada e humana.
Compartilhe essa matéria via:
Fonte ==> Você SA
