O risco da inteligência artificial não está em uma máquina que lê nossa mente. Está em uma conversa que pode saber mais sobre nós do que percebemos, enquanto torna mais barato produzir respostas que parecem feitas sob medida.
Uma conversa com inteligência artificial costuma começar sem cerimônia. Uma dúvida sobre trabalho. Uma compra. Uma viagem. Um texto que precisa ser melhorado. A resposta vem rápida, geralmente útil, e a conversa ganha uma propriedade que ainda nos desarma: ela parece prestar atenção.
Essa aparência não é, por si, um problema. Um sistema que considera o contexto pode ser mais útil que outro que responde sempre do mesmo jeito. A questão começa quando confundimos a qualidade da conversa com transparência sobre a infraestrutura que a produz. O usuário vê a resposta. Nem sempre vê que informações entraram nela, que objetivo guiou sua formulação ou quais incentivos cercam quem construiu o sistema.
O ponto não é afirmar que todo chatbot coleta, memoriza ou explora dados pessoais da mesma forma. Não coleta. Não memoriza. Não explora. Essas condições dependem do produto, das permissões, do desenho e das políticas concretas. O ponto é outro: a inteligência artificial desloca a assimetria de informação para dentro de uma interface que fala como se fosse apenas uma conversa.
Uma conversa pode coletar mais do que parece
Um experimento apresentado no USENIX Security 2025 torna esse risco menos abstrato. Xiao Zhan e colegas construíram chatbots deliberadamente configurados para estimular a revelação de informações pessoais e os compararam com versões benignas. Em um ensaio controlado e randomizado com quinhentas e duas pessoas, os sistemas maliciosos extraíram significativamente mais dados; as estratégias que acionavam a dimensão social da privacidade foram particularmente eficazes e reduziram a percepção de risco dos participantes (Zhan et al., 2025).
O resultado não permite transformar qualquer assistente conversacional em suspeito automático. Os chatbots do estudo tinham uma missão explícita de extrair informação. É justamente por isso que o experimento é útil. Ele isola um mecanismo: uma conversa natural pode facilitar revelações que, em uma tela de formulário, talvez parecessem invasivas.
Antes da IA generativa, a assimetria aparecia com mais nitidez em contratos, mercados e cadastros. Quem vendia um carro conhecia defeitos que o comprador desconhecia. Um banco dominava critérios que o cliente não conseguia auditar. Na conversa com um sistema, a assimetria fica menos visível porque a coleta pode se misturar à própria experiência de ajuda.
FIGURA 1 — A assimetria entre conversa e contexto.
Fonte: elaboração própria, com base em Zhan et al. (2025). Direitos: ilustração original.
O dado pessoal não é um botão secreto
É tentador concluir que, se um sistema tem informações sobre alguém, consegue inevitavelmente encontrar o argumento que o convence. Essa leitura é mais dramática do que a evidência permite.
Kobi Hackenburg e Helen Margetts testaram mensagens políticas geradas por GPT-4 em um experimento pré-registrado com 8.587 participantes. O modelo recebia, em algumas condições, atributos demográficos e políticos dos respondentes para produzir mensagens microdirecionadas. As mensagens geradas foram persuasivas em relação ao grupo de controle. Mas, em média, a personalização com dados corretos não superou de forma estatisticamente significativa uma mensagem não direcionada bem formulada (Hackenburg e Margetts, 2024).
Essa é uma correção necessária. A inteligência artificial não precisa de um retrato psicológico completo para ser influente, mas também não há base para imaginar uma técnica infalível de controle individual. O risco mais consistente não é a leitura mágica da pessoa. É a redução do custo de formular, testar e multiplicar argumentos convincentes.
FIGURA 2 — Personalização não implica vantagem média de persuasão.
Fonte: recriação própria baseada em Hackenburg e Margetts (2024). Direitos: recriação própria.
Quando produzir argumentos fica barato
Um estudo pré-registrado publicado na PNAS Nexus ajuda a dimensionar essa mudança. Pesquisadores compararam artigos de propaganda de campanhas estrangeiras com textos produzidos por GPT-3 e aplicaram o experimento a 8.221 respondentes nos Estados Unidos. Entre os participantes que leram um artigo gerado pelo modelo, 43,5% concordaram ou concordaram fortemente com a tese apresentada, contra 24,4% no grupo de controle. A diferença foi de 19,1 pontos percentuais (Goldstein et al., 2024).
O estudo não mede eleições reais nem autoriza prever o efeito de qualquer texto gerado por IA em qualquer público. Ele testa um tipo específico de conteúdo, em um desenho específico, com um modelo que já não representa o estado atual da tecnologia. Ainda assim, mostra algo importante: produzir uma peça persuasiva deixou de exigir, em muitos contextos, a mesma quantidade de tempo, domínio linguístico e trabalho humano que exigia antes.
Mais importante, a curadoria humana elevou o desempenho dos textos selecionados. A máquina não substitui automaticamente quem define a tese, escolhe o que publicar e decide para quem aquilo será dirigido. Ela reduz o custo dessas escolhas e permite que sejam repetidas em escala.
FIGURA 3 — Concordância com teses antes e depois da leitura de artigo gerado por GPT-3.
Fonte: recriação própria com dados de Goldstein et al. (2024). Direitos: recriação própria.
Responder não é verificar
Há uma segunda assimetria, menos visível e talvez mais cotidiana. Uma IA pode entregar em segundos uma explicação longa, coesa e segura de si. Verificar a explicação continua exigindo tempo.
O benchmark BrowseComp, criado pela OpenAI para avaliar agentes de navegação, explora exatamente a diferença entre encontrar uma resposta e verificá-la depois que ela é apresentada. O próprio material descreve esse tipo de tarefa como uma “assimetria de verificação”: certas respostas são difíceis de descobrir, mas relativamente simples de checar quando alguém aponta o caminho (Wei et al., 2025).
O benchmark não demonstra como pessoas usam chatbots no cotidiano. Ele é uma avaliação técnica, não uma pesquisa sobre comportamento. Mas nomeia um problema real de interface: quando uma resposta chega pronta, com tom de conclusão, o custo de reconstruir o caminho que a sustenta recai sobre quem a recebe.
O que a evidência sustenta, e o que ela não sustenta
As três linhas de evidência não compõem uma teoria de que toda interação com IA é manipulação. O experimento de privacidade dependeu de chatbots configurados para extrair dados. O estudo de microdirecionamento não encontrou uma vantagem média da personalização sobre uma boa mensagem genérica. O experimento sobre propaganda avaliou exposição a artigos em um ambiente controlado, não mudanças permanentes de opinião ou resultado eleitoral.
Mas as limitações não tornam a questão irrelevante. Elas tornam a questão mais precisa. A preocupação não é uma máquina autônoma que conhece cada fraqueza humana. É uma infraestrutura em que dados, conversa e capacidade de gerar variações de um argumento podem se encontrar sem que a pessoa saiba exatamente como isso aconteceu.
Essa distinção importa especialmente em ambientes de educação, serviços públicos, consumo e aconselhamento profissional. Nesses contextos, confiança não pode ser apenas um efeito de fluência. Precisa incluir a possibilidade de perguntar quais fontes sustentam a resposta, que premissas foram adotadas e quais alternativas foram deixadas de fora.
A responsabilidade que não pode ser terceirizada
A resposta não é abandonar a inteligência artificial nem fingir que toda personalização é suspeita. É recuperar algumas perguntas que a interface tende a tornar desnecessárias: de onde veio esta afirmação? Que informação sobre mim entrou nessa resposta? O que mudaria se eu pedisse o melhor argumento contrário? O que preciso checar fora desta conversa?
Essas perguntas não eliminam a assimetria. Elas tornam a assimetria visível. E, numa tecnologia construída para nos poupar trabalho cognitivo, preservar parte desse trabalho talvez seja a condição para que conveniência não se transforme em delegação de julgamento.
Prepare-se para os novos desafios do Direito Digital
Discussões como esta mostram que os impactos da tecnologia já fazem parte da prática jurídica contemporânea. A Pós-graduação em Direito Digital e Inteligência Artificial da Faculdade ESMAFE foi desenvolvida para profissionais que desejam compreender, com profundidade e visão crítica, os desafios legais, éticos e regulatórios do ambiente digital, da proteção de dados às novas formas de uso da inteligência artificial.
É uma formação voltada a quem busca atuar com mais segurança diante das transformações tecnológicas que já estão redefinindo o Direito.
Referências
- GOLDSTEIN, Josh A.; CHAO, Jason; GROSSMAN, Shelby; STAMOS, Alex; TOMZ, Michael. How persuasive is AI-generated propaganda? PNAS Nexus, v. 3, n. 2, 2024. Disponível em: https://doi.org/10.1093/pnasnexus/pgae034. Acesso em: 11 jul. 2026.
- HACKENBURG, Kobi; MARGETTS, Helen. Evaluating the persuasive influence of political microtargeting with large language models. Proceedings of the National Academy of Sciences, v. 121, e2403116121, 2024. Disponível em: https://pmc.ncbi.nlm.nih.gov/articles/PMC11181035/. Acesso em: 11 jul. 2026.
- WEI, Jason et al. BrowseComp: a benchmark for browsing agents. OpenAI, 2025. Disponível em: https://openai.com/index/browsecomp/. Acesso em: 11 jul. 2026.
- ZHAN, Xiao; CARRILLO, Juan Carlos; SEYMOUR, William; SUCH, Jose. Malicious LLM-Based Conversational AI Makes Users Reveal Personal Information. 34th USENIX Security Symposium, 2025. Disponível em: https://www.usenix.org/conference/usenixsecurity25/presentation/zhan. Acesso em: 11 jul. 2026.
