A ascensão da Inteligência Artificial (IA) inaugurou um novo capítulo no Direito, em especial no Direito do Consumidor, exigindo uma releitura das formas de proteção diante de um mercado automatizado. A transformação desloca o eixo da relação de consumo para interações mediadas por sistemas inteligentes e análise massiva de dados. O debate central gira em torno da resistência do Código de Defesa do Consumidor (CDC) frente aos sistemas “fechados” de tecnologia. Especialistas entendem que o CDC, por ser baseado em princípios gerais, continua valendo, mas exige uma interpretação atualizada que converse com a Lei Geral de Proteção de Dados (LGPD) e as novas regras da IA para garantir que a proteção do consumidor não fique ultrapassada.
O avanço da IA introduziu uma “fragilidade digital”. O consumidor enfrenta uma desigualdade extrema, pois a lógica de funcionamento dos serviços é oculta e difícil de entender. Isso o transforma em um conjunto de dados, retirando-lhe a compreensão sobre decisões que afetam sua vida. A situação é agravada pelo uso de dados para influenciar o comportamento, onde sistemas tentam prever e explorar fraquezas emocionais para estimular compras. A proteção jurídica deve evoluir para garantir a liberdade de escolha contra práticas que exploram o impulso, o que é considerado abusivo pela lei.
O dever de informar de forma clara enfrenta o desafio da complexidade dos sistemas que “aprendem sozinhos” e do sigilo comercial das empresas. Exige-se que as empresas expliquem, de forma simples, como a tecnologia toma decisões. O fato de um sistema ser complexo não desculpa as empresas de cumprir a lei. A falta de explicações claras fere a confiança que deve existir nos negócios. O segredo da empresa não pode estar acima dos direitos do cidadão, sendo necessário criar meios para fiscalizar e revisar como esses sistemas funcionam.
Os sistemas de computador, ainda, podem repetir preconceitos sociais ao aprenderem com dados que já contêm erros ou exclusões. Isso gera uma discriminação digital, onde certos grupos podem receber ofertas piores ou ser barrados em serviços sem uma razão justa. A lei brasileira proíbe essas práticas, mas provar o erro é muito difícil para o consumidor. O combate a isso exige que as empresas provem que seus critérios são justos e legítimos, garantindo o respeito e a igualdade para todos.
Fica mantida a regra de que a empresa é responsável por danos, independentemente de ter tido a intenção de errar. O fato de a IA tomar decisões “sozinha” não retira a culpa da empresa que a utiliza. O risco de usar tecnologia faz parte do negócio de quem lucra com ela. Não se aceita o argumento de que “a culpa foi da máquina”; se o sistema causou prejuízo, a responsabilidade é de quem vende o produto ou serviço. Um sistema com IA é considerado defeituoso quando não oferece a segurança que o público espera.
A proteção do consumidor hoje depende diretamente da proteção de seus dados pessoais. Como os dados são o “combustível” da IA, o direito de saber como eles são usados é fundamental. O direito do consumidor de pedir a revisão de uma decisão feita apenas por computadores já está previsto na lei de dados e reforça sua proteção. Em resumo, é preciso manter o ser humano no centro do desenvolvimento tecnológico. O futuro das compras e serviços dependerá de limites éticos para a tecnologia, garantindo que a inovação sirva para o bem-estar e para a inclusão de todos.
