Viés algorítmico

Viés algorítmico é a reprodução e, muitas vezes, a amplificação de desigualdades sociais por sistemas automatizados treinados e operados com dados, critérios e objetivos extraídos de uma sociedade já desigual. Um algoritmo não é uma inteligência neutra que apenas calcula: ele seleciona, classifica, prevê e decide conforme informações históricas, escolhas de quem o programou e interesses de quem o financia. Quando uma plataforma distribui menos chamadas a determinado trabalhador, quando um sistema de seleção descarta currículos por padrões associados a raça, território ou gênero, ou quando uma ferramenta policial concentra suspeitas nas periferias, a discriminação ganha aparência de cálculo técnico.

De onde vem o viés

Algoritmos aprendem com dados ou seguem regras definidas por empresas e instituições. Nos dois casos, carregam relações sociais. Dados históricos registram um mercado de trabalho que paga menos às mulheres, exclui pessoas negras de postos de comando, trata moradores de periferia como risco e reserva proteção para quem já possui renda e patrimônio. Se esse passado é usado para prever quem será um “bom funcionário”, “bom pagador” ou “cliente confiável”, a máquina pode transformar a desigualdade anterior em critério para novas exclusões.

Também há viés nas categorias escolhidas. Decidir que produtividade equivale a número de entregas, tempo online ou velocidade de resposta parece objetivo, mas define o trabalho apenas pelo que pode ser medido e convertido em lucro. Não entram nessa conta o cansaço, a necessidade de descanso, o risco no trânsito, o cuidado com filhos ou a falta de infraestrutura no bairro. A técnica recorta a vida social segundo a finalidade empresarial e chama esse recorte de eficiência.

O problema não é que o algoritmo “erra” ocasionalmente; é que ele pode funcionar exatamente como foi projetado para funcionar, subordinando pessoas a métricas que servem à acumulação e ao controle.

Como o viés opera nas plataformas

Nas plataformas digitais, o viés algorítmico aparece junto à opacidade. Um entregador de aplicativo não sabe integralmente por que recebe certas rotas, por que sua pontuação cai ou por que deixa de acessar promoções e chamadas. A empresa apresenta a distribuição de trabalho como resultado automático de um sistema complexo, enquanto define unilateralmente as metas, os incentivos e as punições. Assim, a gerência não desaparece: ela se esconde no código, na tela e nos termos de uso.

Essa forma de gestão aprofunda a uberização. O trabalhador é formalmente tratado como autônomo, mas tem sua jornada orientada por notificações, tarifas variáveis, ranqueamentos e bloqueios. Se precisa aceitar corridas piores para manter indicadores ou permanecer conectado por horas para alcançar uma bonificação, sua liberdade é mais jurídica do que real. O algoritmo organiza a concorrência entre trabalhadores e faz a pressão empresarial parecer uma decisão individual: trabalhar mais, aceitar tudo, melhorar a nota, “empreender” a própria sobrevivência.

Em call centers, sistemas podem medir pausas, duração de atendimentos e palavras utilizadas, convertendo cada conversa em indicador de desempenho. Para professores, plataformas educacionais podem reduzir aprendizagem a cliques, frequência registrada e cumprimento de tarefas padronizadas. Em vez de ampliar o tempo para ensinar, cuidar ou resolver problemas, a automação frequentemente intensifica a vigilância e impõe ritmos definidos de cima para baixo.

No Brasil: desigualdade automatizada

No Brasil, o viés algorítmico incide sobre uma sociedade marcada por racismo estrutural, desigualdade regional, precariedade do trabalho e acesso desigual à internet, à educação e à renda. Sistemas de crédito, recrutamento, publicidade, reconhecimento de padrões e distribuição de serviços não começam em terreno vazio. Quando utilizam endereço, histórico financeiro, escolaridade, rede de contatos ou comportamento digital como sinais de valor ou risco, podem penalizar justamente quem foi privado de direitos ao longo da vida.

O problema se agrava porque decisões privadas tomadas por plataformas afetam o acesso a trabalho, renda, informação e circulação urbana. Uma pessoa bloqueada por um aplicativo pode perder de imediato sua fonte de sustento sem conhecer claramente os critérios, sem negociação coletiva efetiva e, muitas vezes, sem mecanismo proporcional de contestação. A promessa de inovação encobre uma antiga relação de poder: quem controla os meios técnicos controla também parte das condições de existência de quem depende deles.

Não basta “tirar o preconceito da máquina”

Corrigir bases de dados, testar discriminações e permitir auditorias são medidas necessárias, mas insuficientes se a discussão parar na qualidade técnica. Um sistema pode ser estatisticamente mais equilibrado e continuar servindo para vigiar trabalhadores, acelerar demissões, reduzir salários ou substituir direitos por pontuações. A pergunta decisiva não é apenas se o algoritmo é preciso, mas quem define seu objetivo, quem se beneficia dele e quem suporta seus custos.

Uma crítica social do viés algorítmico recusa tanto a ideia de que a tecnologia é inevitavelmente neutra quanto a fantasia de que bastaria uma IA mais ética para resolver contradições sociais. Sob o capitalismo, dados são apropriados como matéria-prima e algoritmos se tornam instrumentos de extração de valor, comando do trabalho e administração desigual das populações. Democratizar a técnica exige transparência, direito de contestação, limites à vigilância, organização coletiva dos trabalhadores e controle público sobre sistemas que hoje governam silenciosamente aspectos decisivos da vida social.