Lombadas éticas e inteligência artificial

Em algum momento do ano, numa sala de reunião qualquer, em alguma grande empresa na área da saúde, alguém projeta um slide e diz algo como: o fator de sucesso esse ano será conseguirmos reduzir custos em X por cento e aumentar a lucratividade em Y. A frase é dita com a mesma naturalidade com que se comenta o tempo (se vai chover no final de semana). A decisão nasce no topo, desce em forma de meta, vira indicador, vira processo, é incorporado ao sistema.

Na outra ponta — o lado mais fraco— uma pessoa que paga o convênio médico há anos, descobre um câncer e espera que seu convênio cubra o tratamento. E então o sistema começa a trabalhar. Não uma pessoa específica. Não um funcionário isolado. O sistema. Ele percorre cláusulas, interpreta vírgulas, explora aquele território cinzento, até encontrar um jeito legal de não pagar. Afinal a meta é diminuir custos e aumentar lucros, lembra?

Está tudo dentro da regra.
Está tudo “correto”.
E, ainda assim, alguma coisa aí soa profundamente errada.

Esse é apenas um exemplo, mas eleve a potência disso para todos os outros tipos de negócios e organizações.

Michael Sandel, em seu livro Justiça: o que é fazer a coisa certa, diz algo que devia nos inquietar profundamente: existem muitas coisas que são legais do ponto de vista da lei e, ao mesmo tempo, absolutamente imorais. A legalidade não esgota a pergunta ética. Talvez o mundo corporativo seja hoje um dos lugares onde mais se testa — e se estica — essa fronteira.

O mais desconcertante é perceber que, nessa história, quase ninguém se sente antiético. Cada um está só “cumprindo o processo”. Só “seguindo a política”. Só “fazendo o que foi combinado”. Não é um desvio. Não é uma exceção. É o sistema funcionando exatamente como foi desenhado.

Meu marido (Alexandre, vulgo Love) uma vez me falou do querido professor Jerônimo, que lecionava Direito Romano e Ética na PUC-PR, nos anos 1990. O professor utilizava-se de uma analogia que denominava “lombadas éticas”. Fiquei tão impressionada, que nunca mais esqueci isso que meu marido me contou.

Lombadas existem porque placas não bastam. Se bastassem, não precisariam daquele obstáculo físico que obriga o carro a diminuir a velocidade. A lombada não confia na nossa boa vontade. Ela organiza o comportamento.

Talvez a ética funcione mais assim do que a gente gosta de admitir.

Nas organizações, a gente adora colocar placas: códigos de conduta, valores na parede, discursos bem-intencionados sobre cultura. Mas raramente constrói lombadas. Raramente cria estruturas que realmente façam a gente desacelerar, pensar, hesitar antes de decidir.

E depois se espanta quando o sistema passa por cima de alguém.

Estou falando tudo isso, pois tenho acompanhado de perto o que nos últimos anos, virou quase obrigatório dizer que, na era da inteligência artificial, precisamos desenvolver ética, pensamento crítico, responsabilidade de checar as fontes, etc, como soft skills (oh lá as palavras chatinhas em inglês) altamente desejadas pelas empresas. Isso aparece em relatórios, palestras, apresentações caprichadas. No discurso, está todo mundo de acordo.

Na prática, porém, o movimento é outro. As empresas estão treinando pessoas para usar, implementar e escalar IA. Mas quase nunca para pensar eticamente sobre o que estão automatizando. Sobre que tipo de decisão estão transformando em processo. Sobre que tipo de mundo estão, silenciosamente, consolidando em código.

O filósofo Paul Ricoeur define ética assim:

“A ética é a busca de uma vida boa, com e para os outros, em instituições justas.”

📚 Fonte:
Paul Ricoeur, Soi-même comme un autre (1990)
(traduzido para o português como O si-mesmo como um outro)

Às vezes eu me pego pensando: onde estão os líderes que conversam de verdade sobre ética com seus times? Onde estão os RHs que incluem ética não só em códigos ou apresentações, mas em cursos, conversas, decisões e ações do dia a dia? Onde estão os fóruns em que se discutem situações reais da empresa, aquelas que não são óbvias, e se convida as pessoas a pensar juntas sobre o impacto de suas escolhas?

Mas, ao mesmo tempo, eu desconfio dessa pergunta quando ela vira simples cobrança individual. Porque ética não é só uma competência que cada pessoa desenvolve. É também — e talvez principalmente — uma responsabilidade coletiva e um desenho organizacional.

Organizações são feitas de pessoas, sim. Mas são também feitas de metas, incentivos, processos, critérios de decisão e estruturas de poder. E é esse conjunto que educa, permite, empurra ou freia certos comportamentos.

Não basta formar indivíduos éticos dentro de sistemas que recompensam decisões ruins. Não basta pedir consciência a pessoas que operam dentro de lógicas que as punem quando tentam fazer o que é certo. Ética, nesse sentido, não é só aprendizado pessoal. É uma construção coletiva. É cultura. É arquitetura.

É como se estivéssemos ensinando todo mundo a dirigir carros cada vez mais rápidos, mais potentes, mais eficientes… e tratando freios, curvas perigosas e limites de velocidade como um detalhe secundário.

Ou pior: falando disso, mas sem nunca colocar uma lombada na pista.

Porque, vamos combinar, de “inteligente” a inteligência artificial tem pouco. Quem diz isso é um dos maiores neurocientistas do Brasil, e talvez do mundo, o Dr Miguel Nicolelis . São modelos estatísticos. Padrões. Probabilidades. A inteligência — inclusive a ética — está em quem decide o que entra, o que sai, o que é priorizado, o que é descartado.

Quando falamos de IA e automatização um processo, ela não está só ganhando eficiência. Está automatizando também uma visão de mundo. Um critério de valor. Uma hierarquia silenciosa sobre quem importa mais e quem pode ficar para depois.

Se hoje já é relativamente fácil transformar decisões moralmente graves em rotinas administrativas, o que acontece quando isso vira código?

Talvez o problema nunca tenha sido falar de ética. Ao contrário. A gente precisa falar mais, ensinar mais, treinar mais, acompanhar mais de perto como a ética aparece nas decisões reais, nas exceções, nos casos difíceis — aqueles que não cabem direito no manual.

O problema começa quando a ética fica só no discurso. Quando é valor declarado, mas não critério de decisão. Quando é intenção, mas não vira método, nem processo, nem estrutura.

Falar de ética é necessário. Mas sem criar dispositivos (lombadas éticas) que sustentem esse aprendizado no dia a dia, sem pausas, revisões e pensamento sistêmico, que ajudem a pensar melhor quando a decisão corre rápido demais, a gente continua só confiando em placas — enquanto o sistema segue sem lombadas.

A pergunta incômoda não é só se precisamos falar mais de ética — porque precisamos. A pergunta incômoda é outra: que tipo de obstáculos precisam existir para que certas coisas simplesmente não aconteçam? Que interrupções precisam ser possíveis quando metas, sistemas e algoritmos começam a fazer, de forma perfeitamente correta, coisas que são profundamente erradas?

Porque viver em sociedade — e trabalhar em organização — é, no fundo, aceitar que nossas decisões nunca são só nossas.

E talvez a maturidade ética comece quando a gente para de acreditar que basta ensinar a dirigir melhor… e começa a se perguntar, com mais honestidade, que tipo de estrada estamos, afinal, construindo.

Abraço afetuoso,

Adri

Compartilhar