A inteligência artificial já faz parte da rotina: ela recomenda produtos, responde atendimentos por chatbots, analisa pedidos de crédito, auxilia operadoras de planos de saúde e até participa de sistemas de prevenção a fraudes. Mas, à medida que essas tecnologias ganham espaço, também crescem as preocupações sobre como decisões automatizadas podem afetar a vida dos consumidores.
Foi nesse contexto que a Comissão de Ciência, Tecnologia e Inovação da Câmara dos Deputados aprovou um projeto de lei que estabelece regras específicas para proteger usuários em casos de aplicação da IA em produtos e serviços.
Entre as medidas previstas estão a obrigatoriedade de informar quando o usuário estiver interagindo com uma IA, o direito de solicitar revisão humana em decisões automatizadas, mecanismos para combater discriminação algorítmica e a possibilidade de pedir a exclusão de dados utilizados por esses sistemas.
A proposta ainda será analisada por outras comissões da Câmara antes de seguir para o Senado.
O Olhar Digital consultou advogados especializados em direito digital e do consumidor. Na avaliação dos especialistas, o projeto representa um avanço ao adaptar direitos já existentes à realidade da inteligência artificial.
Embora a maior parte das garantias já encontre respaldo no Código de Defesa do Consumidor e na Lei Geral de Proteção de Dados (LGPD), o texto deve transformar esses princípios em obrigações mais claras para as empresas, reduzindo dúvidas sobre direitos e deveres em relação a sistemas automatizados.
O que muda para o consumidor?
Para Daniela Poli Vlavianos, advogada e sócia do Poli, Porto & Andreghetto Advogados, a proposta não cria um sistema novo de proteção, mas torna mais específicas regras que antes estavam previstas de forma genérica na legislação.
“O projeto representa, em grande medida, um aperfeiçoamento e uma adaptação do sistema de proteção do consumidor às novas tecnologias”, afirmou.
Segundo a advogada, direitos como informação adequada, transparência, proteção da privacidade e reparação por danos já existem, mas passam a ser direcionados especificamente ao contexto da inteligência artificial.
O consumidor passa a ter maior previsibilidade sobre a forma como a tecnologia influencia decisões que afetam seus direitos e interesses, fortalecendo a efetividade dos princípios da informação, da vulnerabilidade do consumidor e da boa-fé objetiva.
Daniela Poli Vlavianos, advogada e sócia do Poli, Porto & Andreghetto Advogados
Juliana Sene Ikeda, advogada e sócia do Campos Thomaz Advogados, destaca que o projeto reduz a margem de interpretação sobre as obrigações das empresas ao cumprir a LGPD. Ela compara o projeto a uma tentativa de criar um “padrão mínimo comum inspirado no AI Act europeu”.
Projeto ainda será analisado pelas comissões de Defesa do Consumidor e de Constituição e Justiça e de Cidadania – Imagem: bigjom jom/Shutterstock
Transparência passa a ser obrigação
Uma das principais mudanças previstas pelo projeto é a exigência de que empresas informem de maneira clara quando o consumidor estiver interagindo com inteligência artificial ou diante de conteúdos produzidos por esses sistemas. Na prática, isso significa que chatbots, assistentes virtuais e outras ferramentas automatizadas deverão deixar evidente que não são operados por uma pessoa.
Para Thomaz Côrte Real, advogado e sócio do M. A. Santos, essa transparência é fundamental para equilibrar a relação entre consumidores e empresas.
A transparência é um dos pilares para o uso responsável da inteligência artificial. O consumidor precisa saber quando está interagindo com um sistema automatizado para compreender a natureza daquela interação, exercer seus direitos de forma consciente e, quando necessário, solicitar revisão ou atendimento humano.
Thomaz Côrte Real, advogado e sócio do M. A. Santos
Segundo o advogado, identificar claramente a presença da IA também ajuda a reduzir a assimetria de informações, facilita a contestação de decisões automatizadas e contribui para identificar possíveis falhas dos sistemas.
Ao mesmo tempo, ele pondera que essa obrigação precisa ser proporcional para não criar burocracias desnecessárias em aplicações que não representam risco ao consumidor.
Ikeda acrescenta que a medida pode coibir práticas como “atendimentos automatizados apresentados como humanos, conteúdos gerados por IA sem identificação e recomendações comerciais disfarçadas de indicação neutra”.
Na avaliação da especialista, os maiores impactos devem ser sentidos por plataformas de comércio eletrônico, aplicativos financeiros e empresas que utilizam chatbots como principal canal de atendimento ao consumidor.
Outro ponto considerado central pelos especialistas é o direito de pedir revisão humana quando uma decisão automatizada afetar diretamente o consumidor. Pelo projeto, será possível solicitar esclarecimentos sobre os critérios utilizados por sistemas de IA em situações como negativa de crédito ou outros processos automatizados, além de recorrer da decisão.
Para Vlavianos, essa previsão pode fazer diferença justamente nos casos em que algoritmos produzem efeitos concretos sobre a vida das pessoas. Ela cita como exemplos a concessão ou negativa de crédito, contratação de seguros, análise de planos de saúde, identificação de supostas fraudes bancárias, suspensão de contas em plataformas digitais, recusa de serviços e processos automatizados de análise cadastral.
Segundo a advogada, embora sistemas de inteligência artificial sejam capazes de analisar grandes volumes de dados, eles também podem reproduzir erros ou vieses presentes nas informações utilizadas durante seu funcionamento. Nesses casos, a revisão por uma pessoa funciona como uma camada adicional de proteção para corrigir decisões injustas e considerar particularidades que um algoritmo pode não conseguir avaliar.
Empresas serão obrigadas a informar quando usuários estiverem conversando com uma IA – (Imagem: Summit Art Creations / Shutterstock.com)
Exclusão de dados: novo direito, mas com limites
Outro ponto previsto na proposta é o direito de o consumidor solicitar a exclusão de seus dados dos bancos utilizados para treinar ou operar sistemas de inteligência artificial. A medida busca dar mais controle sobre o uso de informações pessoais – mas, na prática, a aplicação não deve ser tão simples.
O próprio texto estabelece exceções, como dados relacionados ao ecossistema de crédito. Isso desde que sejam observadas as regras do Código de Defesa do Consumidor e da Lei Geral de Proteção de Dados.
Para Daniela Poli Vlavianos, esse direito precisará conviver com outras hipóteses previstas na legislação. Por exemplo: empresas podem ser obrigadas a manter determinadas informações dos usuários para cumprir exigências legais, regulatórias ou fiscais, além de utilizá-las para o exercício de direitos em processos judiciais.
Outro desafio está na própria tecnologia.
Em determinados casos, especialmente quando os dados já tiverem sido anonimizados de forma irreversível ou incorporados a modelos de inteligência artificial sem possibilidade técnica de individualização, a exclusão poderá enfrentar limitações práticas e tecnológicas.
Daniela Poli Vlavianos, advogada e sócia do Poli, Porto & Andreghetto Advogados
Thomaz Côrte Real destaca que apagar um dado do banco de informações não significa, necessariamente, eliminá-lo de um modelo de IA já treinado. Segundo o advogado, esse processo -conhecido como machine unlearning – ainda representa um desafio para a ciência da computação e, dependendo da arquitetura do sistema, pode exigir até mesmo o retreinamento completo do modelo.
Por isso, ele defende que a futura legislação considere as limitações tecnológicas atuais.
Juliana Sene Ikeda faz uma avaliação semelhante. Ela lembra que a própria LGPD já prevê hipóteses em que dados pessoais podem ser mantidos, como para cumprimento de obrigações legais ou uso anonimizado em pesquisas. Além disso, afirma que ainda existe um debate técnico sobre o que significa, na prática, remover um dado que já influenciou o funcionamento de um sistema de inteligência artificial.
Como provar que uma IA discriminou um consumidor?
Além de ampliar direitos relacionados à transparência, o projeto também proíbe o uso de sistemas que provoquem discriminação algorítmica – ou seja, tratamentos desiguais motivados por fatores como raça, sexo, idade ou deficiência. Para reduzir esse risco, o texto prevê auditorias periódicas e canais para denúncia e reparação de danos.
Na avaliação dos especialistas, no entanto, esse será um dos pontos mais desafiadores da futura legislação.
Segundo Real, alguns modelos de IA possuem baixo grau de explicabilidade, o que dificulta identificar exatamente quais fatores levaram a determinada decisão. Ainda assim, o advogado ressalta que isso não impede a produção de provas.
Ikeda explica que o consumidor dificilmente terá acesso ao algoritmo ou aos dados utilizados para treinar esses sistemas. Ela ressalta que a eficácia da medida dependerá da forma como essas auditorias serão regulamentadas.
Entre as novidades, o projeto autoriza o uso de IA certificada pelo Executivo para revalidar receitas de medicamentos de uso contínuo – Imagem: khunkornStudio/Shutterstock
Bancos, planos de saúde e comércio eletrônico devem sentir os maiores impactos
Os três especialistas ouvidos pela reportagem concordam que as novas exigências devem atingir principalmente os setores que já utilizam inteligência artificial para tomar decisões capazes de afetar diretamente os consumidores.
Segundo Daniela Poli Vlavianos, instituições financeiras precisarão rever sistemas utilizados para análise de crédito, prevenção a fraudes e definição de limites financeiros, enquanto operadoras de planos de saúde poderão enfrentar maior escrutínio sobre algoritmos empregados na autorização de procedimentos e análise de cobertura.
Ela acrescenta que o comércio eletrônico também deverá ampliar a transparência em ferramentas de recomendação de produtos, publicidade personalizada e precificação dinâmica. Já empresas que utilizam assistentes virtuais terão de deixar claro quando o atendimento for automatizado e oferecer canais de atendimento humano sempre que necessário.
Para Thomaz Côrte Real, mais do que mudar a tecnologia utilizada, a proposta tende a elevar o nível de governança exigido das empresas. Documentação dos modelos, gestão de riscos, auditorias periódicas, políticas de transparência e mecanismos de prestação de contas devem ganhar ainda mais importância nas estratégias de conformidade das organizações.
Especialistas veem avanço, mas defendem aperfeiçoamentos
Apesar de considerarem o projeto um passo importante para adaptar as relações de consumo ao avanço da inteligência artificial, os três especialistas entendem que o texto ainda pode ser aperfeiçoado antes de uma eventual aprovação definitiva.
Para Vlavianos, a proposta fortalece a confiança entre empresas e consumidores ao exigir mais transparência e ampliar mecanismos de controle sobre dados pessoais. Ainda assim, ela afirma que ainda será necessário definir critérios objetivos para identificar quais sistemas estarão sujeitos às regras mais rígidas, além de esclarecer como ocorrerá a fiscalização e quais órgãos serão responsáveis por aplicar a nova legislação.
Thomaz Côrte Real chama atenção para outro ponto: a necessidade de harmonizar esse projeto com o PL 2.338/2023, que estabelece um marco regulatório geral para a inteligência artificial no Brasil.
O grande desafio do legislador é construir uma regulação que fortaleça a confiança do consumidor sem criar barreiras desproporcionais ao desenvolvimento tecnológico. Proteção de direitos fundamentais, segurança jurídica e incentivo à inovação precisam caminhar juntos.
Thomaz Côrte Real, advogado e sócio do M. A. Santos
Já Juliana Sene Ikeda avalia que o projeto ajuda a tornar mais concretos princípios já previstos na LGPD e no Código de Defesa do Consumidor, mas questiona a necessidade de novas regulamentações. Segundo ela, diversas regras práticas ainda dependerão de normas complementares para sair do papel, o que levanta uma discussão sobre a efetividade da proposta caso seja aprovada.
Aprovado pela Comissão de Ciência, Tecnologia e Inovação, o projeto ainda será analisado pelas comissões de Defesa do Consumidor e de Constituição e Justiça e de Cidadania. Depois disso, precisará ser votado pela Câmara dos Deputados e pelo Senado para se tornar lei.
O post Você está falando com uma IA? Projeto quer obrigar empresas a avisar consumidores; veja o que muda apareceu primeiro em Olhar Digital.
