Nos últimos anos, a inteligência artificial generativa (IAG) tem revolucionado diversos setores, proporcionando inovações impressionantes em criação de conteúdo, personalização de experiências e automação de processos. No entanto, no contexto do Direito do Consumidor, essa tecnologia também representa desafios significativos, especialmente no que tange à proteção contra fraudes e manipulações.
A capacidade da inteligência artificial generativa de criar textos, imagens, áudios e vídeos com alto grau de realismo traz à tona riscos concretos para os consumidores. Um dos principais perigos é o uso de deepfakes em contextos fraudulentos. Empresas e indivíduos mal-intencionados podem criar vídeos falsos utilizando a imagem e voz de pessoas famosas para promover produtos ou serviços inexistentes, enganando consumidores e comprometendo sua segurança econômica, como temos visto corriqueiramente. Muitos inclusive tem acionado judicialmente as plataformas onde estes vídeos foram divulgados solicitando a sua remoção.
Além disso, é preocupante a utilização de chatbots baseados em IAG para simular interações humanas de suporte ao cliente. Esses sistemas podem ser explorados para coletar dados pessoais sensíveis ou induzir consumidores a contratações enganosas, violando o direito à informação clara e adequada garantido pelo Código de Defesa do Consumidor (CDC).
Os casos de fraudes envolvendo inteligência artificial estão em rápido crescimento. Recentemente, relatos de pessoas que sofreram golpes por meio de ligações simuladas, onde suas próprias vozes foram replicadas por IA, demonstram o alcance e o potencial lesivo dessa tecnologia. Além disso, os deepfakes têm sido utilizados para disseminar campanhas publicitárias enganosas, induzindo consumidores a realizar transações prejudiciais.
As implicações dessas fraudes são amplas. Além de danos financeiros imediatos, como perdas monetárias em compras fraudulentas, o consumidor pode sofrer danos psicológicos, como ansiedade e desconfiança generalizada. Por outro lado, as empresas que têm sua imagem indevidamente associada a esses golpes também sofrem, uma vez que a reputação corporativa é significativamente prejudicada.
Regulamentar o uso de tecnologias emergentes como a IAG exige uma abordagem multidisciplinar. A legislação existente no âmbito do Direito do Consumidor deve ser revista para abarcar novos conceitos, como “autenticidade digital” e “responsabilidade por conteúdo gerado por IA”. Além disso, a fiscalização precisa ser fortalecida, com órgãos de proteção ao consumidor capacitados a lidar com tecnologias de alta complexidade.
Por outro lado, o desafio se estende ao campo internacional. Em um mundo globalizado, conteúdos fraudulentos podem ser criados em um país e disseminados em outro, dificultando a aplicação de leis locais. Assim, a cooperação entre nações torna-se essencial para combater o uso mal-intencionado da IAG.
Diante desse cenário, é imperativo que se adotem medidas legais, tecnológicas e educacionais para proteger os consumidores:
- Legislação Atualizada: A atualização do ordenamento jurídico é essencial para regulamentar o uso de IAG. É necessário criar normas que responsabilizem civil e criminalmente aqueles que utilizam a tecnologia para fraudes e violações dos direitos do consumidor. Atualmente, temos o Marco Regulatório da IA tramitando no Congresso. É premente que esta legislação avance o mais rápido possível haja vista o emprego cada vez maior da IA no dia a dia.
- Verificação de Autenticidade: Empresas e plataformas digitais devem implementar mecanismos de verificação de autenticidade para conteúdos gerados por IAG, de modo a evitar a disseminação de deepfakes e publicidade enganosa. Ferramentas de “marca d’água digital” ou assinaturas criptográficas podem ser implementadas para identificar conteúdo autêntico.
- Educação Digital: Consumidores precisam ser educados sobre os riscos associados à IAG e orientados sobre como identificar conteúdos fraudulentos. Campanhas de conscientização podem ser promovidas por órgãos de defesa do consumidor e entidades governamentais. Essa educação deve incluir o reconhecimento de deepfakes e dicas práticas sobre como verificar a credibilidade de informações online.
- Incentivo à Transparência: As empresas que utilizam IAG devem ser obrigadas a informar claramente o uso dessa tecnologia em suas interações com consumidores, promovendo maior transparência e confiança. Essa informação deve ser acessível e de fácil compreensão, atendendo ao princípio da boa-fé.
- Colaboração Internacional: Dada a natureza transnacional da IAG, a colaboração entre países é essencial para estabelecer padrões globais de regulação e compartilhamento de informações sobre ameaças emergentes. Organizações internacionais podem desempenhar um papel importante na harmonização de diretrizes e boas práticas, como a ONU já vem propondo.
- Incentivo à Inovação Responsável: Políticas públicas devem promover o desenvolvimento de soluções tecnológicas que combatam fraudes baseadas em IAG. Iniciativas de pesquisa e desenvolvimento para aprimorar sistemas de detecção de deepfakes e aplicações de IA para segurança digital são fundamentais.
A inteligência artificial generativa representa uma oportunidade significativa para avanços tecnológicos, mas também exige uma abordagem cuidadosa para proteger os consumidores contra seus potenciais abusos. Por meio de uma legislação robusta, tecnologias de verificação, educação digital e cooperação internacional, será possível mitigar os riscos e garantir um mercado mais seguro e justo para todos. Nesse sentido, é essencial equilibrar o incentivo à inovação com a proteção dos direitos fundamentais dos consumidores, assegurando que os avanços tecnológicos sejam utilizados de maneira ética e responsável.
*Andrea Motolla é advogada, com especialização em direito empresarial, em processo civil e direito do Consumidor
