Uma pesquisa mostrou que textos invisíveis podem manipular as respostas do ChatGPT. Esse problema é semelhante a técnicas antigas conhecidas como “black hat” no SEO e já foi resolvido pelo Google há muito tempo.
- Textos invisíveis direcionam respostas do ChatGPT.
- Respostas podem ser influenciadas mesmo sem comandos explícitos.
- Técnicas básicas, como otimização de palavras-chave, ainda funcionam.
- Google corrigiu problemas parecidos há anos, mas o ChatGPT ainda sofre com isso.
Pesquisas recentes demonstraram como a busca no ChatGPT pode ser facilmente influenciada por técnicas antigas de manipulação de SEO conhecidas como “black hat”.
Em um dos experimentos, pesquisadores usaram uma página com avaliações negativas visíveis, mas adicionaram avaliações positivas escondidas. Para isso, essas avaliações positivas foram adicionadas usando texto na mesma cor do fundo, ficando invisíveis aos usuários, mas visíveis para os buscadores. O ChatGPT ignorou as críticas e respondeu com um tom totalmente positivo, seguindo os textos ocultos.
Isso lembra práticas antigas de SEO, como esconder palavras em sites para enganar algoritmos. O Google já superou essas técnicas há muito tempo, desenvolvendo filtros para identificar e ignorar esse tipo de manipulação. Enquanto isso, o ChatGPT ainda considera esses textos como legítimos.
A falha parece estar ligada à forma como o sistema busca e usa informações da web. Ele depende de métodos como o RAG (Retrieval Augmented Generation), que deveriam garantir respostas confiáveis. No entanto, a incapacidade de filtrar conteúdos problemáticos deixa espaço para manipulações.
Esse problema é uma oportunidade para aprender mais sobre as vulnerabilidades das IAs e sobre como o mercado de buscadores é algo complexo.. O desafio agora é garantir que as respostas sejam confiáveis, mesmo em um ambiente cheio de tentativas de manipulação.
Quer explorar os detalhes do artigo? Confira no post “ChatGPT Search Manipulated With Hidden Instructions”, do Search Engine Journal.
