Várias decisões em nosso dia a dia já são tomadas por inteligências artificiais. Um exemplo é a escolha de quem irá receber crédito. Os algoritmos sentenciam quem terá sua casa financiada, empréstimo concedido ou cartão de crédito negado. Essas escolhas nem sempre são transparentes e podem esconder critérios que discriminam mulheres, pessoas de certas regiões do Brasil, etc. É possível que a inteligência artificial reproduza o viés discriminatório que seres humanos empregam ao tomar decisões. Por vezes, isso acontece até mesmo sem que a instituição financeira esteja ciente desses critérios, pois nem sempre há um acompanhamento de quais fatores estão sendo considerados pelos algoritmos para tomar uma decisão. 

O Nubank é uma das maiores instituições financeiras das Américas e seu surgimento representou uma mudança (para melhor) de paradigma de “banco” para os brasileiros, muitos dos quais tiveram seu primeiro acesso ao sistema financeiro por meio dessa startup. Em 2021 o Nubank lançou o “Ultravioleta”, um cartão de crédito que oferece algumas vantagens como o cashback de 1% que rende 200% do CDI. No entanto, segundo informações no site da própria instituição, o acesso a esse cartão acontece conforme uma análise “feita de maneira automática”. Diante dessa informação oficial, vale perguntar: quais critérios são considerados na análise? É a renda apenas? Também se considera o score bancário? Ou será que, mesmo de maneira não intencional, o algoritmo do Nubank está tomando decisões que discriminam mulheres, por exemplo? Existe um perigo na análise “automática”, pois sua avaliação não é transparente. Há outras instituições financeiras que oferecem cartões semelhantes, mas que adotam critérios objetivos para a concessão, como realizar um investimento ou um gasto mínimo na fatura do cartão.

Como se sabe, a Constituição Federal brasileira proíbe a discriminação (art. 5º), inclusive nas relações privadas (entre uma empresa e seu cliente, por exemplo). Por decorrência, o Código de Defesa do Consumidor estabelece o direito de “igualdade nas contratações” (art. 6º, inciso II), ou seja, é ilegal oferecer um contrato mais vantajoso para um homem e não fazer o mesmo para uma mulher. No caso do Nubank, não se sabe se, por exemplo, o Estado de residência do consumidor ou o seu sexo está sendo considerado (ainda que de modo “involuntário”) na “análise automática”. Há também no Direito brasileiro a Lei 13.709 de 2018, que se encaixa muito bem na situação narrada aqui, pois ela determina que o “controlador” (no caso, o Nubank, que controla a inteligência artificial) deverá “fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada” (art. 20, § 1º). 

Por ser uma instituição tão inovadora, o Nubank deveria assumir a vanguarda quanto à transparência de seus algoritmos de decisão e formar um comitê para supervisionar o funcionamento de sua inteligência artificial. Da mesma maneira com que procede na seleção de seus empregados e membros de conselhos, esse grupo poderia ser formado por uma diversidade de pessoas, algumas oriundas da estrutura do próprio Nubank (técnicos e gestores), outros da sociedade civil em geral (representantes de associações), bem como alguns de seus clientes. Todos eles com o dever contratual de guardar o segredo comercial e industrial da tecnologia usada pela instituição. 

Sendo assim, os subscritores desta petição solicitam que o Nubank:

(a) seja transparente quanto ao seu uso de modelos de inteligência artificial, instituindo um comitê formado por seus empregados, alguns de seus clientes e pessoas da sociedade em geral para supervisionar o funcionamento de seus algoritmos e, dentro do possível, garantir que não haja discriminação nas decisões que afetam a vida financeira de milhares de seus clientes;

(b) seguindo o que determina o art. 20, § 1º, da Lei 13.709 de 2018, forneça informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada na concessão de produtos de crédito, especialmente o acesso ao seu cartão Ultravioleta;

(c) adote e divulgue critérios objetivos para conceder acesso ao cartão Ultravioleta.

P.S.: A informação de que a análise é feita de maneira automática está na página do cartão Ultravioleta, na parte de "Perguntas frequentes", na resposta para a pergunta "Como pedir o Ultravioleta?", e hoje (1º/09/2023) tem a seguinte redação: "Para ter acesso ao Ultravioleta não há regra de renda mínima, mas uma análise de crédito é realizada para a disponibilização do cartão. Essa análise é feita de maneira automática no momento do cadastro de novos clientes no Nubank, e também mensalmente para quem já possui nosso cartão roxinho. Assim que o cartão Ultravioleta é liberado, o aviso é feito por uma mensagem dentro do aplicativo e também por email. Daí a confirmação é super simples: tudo direto pelo app, rápido e sem burocracia."