Inteligência Artificial · 12 min · 19 de novembro de 2026
RAG na prática: como fazer a IA responder com os dados da tua empresa sem inventar
Quando o chatbot da empresa responde bonito e erra, o problema quase nunca é o modelo: é a recuperação. Este é o mapa técnico de um RAG de produção, peça por peça, com as decisões que mais pesam na qualidade da resposta.
Todo mundo que já colocou um chatbot de IA em cima de documento interno conhece a cena: a pergunta é simples, a resposta vem confiante, bem escrita e errada. O modelo não achou a política certa, pegou a versão de 2023 do manual ou misturou dois clientes.
Isso quase nunca é problema do modelo. É problema de recuperação. RAG (Retrieval-Augmented Generation) é uma arquitetura com várias peças, e a qualidade da resposta é limitada pela pior delas. Este artigo é o mapa técnico de cada peça, com as decisões que mais pesam em produção.
O pipeline completo
Um RAG de produção tem duas metades:
- Offline (indexação): extrair texto dos documentos → limpar → dividir em trechos (chunks) → enriquecer com metadados → gerar embeddings → gravar no índice.
- Online (consulta): reescrever a pergunta → filtrar por permissão e metadados → buscar (vetorial + palavra-chave) → reordenar (rerank) → montar o contexto → gerar a resposta com citação → registrar tudo para avaliação.
O tutorial típico mostra só "embedding + busca vetorial + prompt". Funciona na demo com dez PDFs. Em produção, com dez mil documentos, os passos que ele pula são exatamente os que decidem a qualidade.
Ingestão: onde mora metade do problema
Se o texto entra sujo, nenhum modelo salva. Os problemas mais comuns:
- PDF com tabela: extratores simples leem tabela linha a linha e embaralham colunas. Uma tabela de preços vira uma sopa de números. Use um parser com detecção de layout ou converta a tabela para Markdown/CSV antes de indexar.
- PDF escaneado: precisa de OCR. Modelos multimodais atuais fazem OCR de documento muito melhor que as ferramentas clássicas, mas custam mais; vale usar só onde o extrator de texto falha.
- Cabeçalho e rodapé repetidos: "Confidencial – Página 3 de 40" em cada página polui todos os trechos e faz documentos diferentes parecerem iguais na busca.
- Versões: o manual de 2023 e o de 2026 dizem coisas diferentes. Sem metadado de versão e vigência, a busca devolve os dois e o modelo escolhe um.
Regra prática: guarde para cada trecho pelo menos documento_id, titulo, secao, versao, vigente_desde, fonte_url e as regras de acesso. Metadado barato na ingestão vira filtro preciso na consulta.
Chunking
Dividir o texto parece detalhe e é uma das decisões que mais move a métrica.
- Tamanho fixo (ex.: 500 tokens com 50 de sobreposição): simples, previsível, e corta frase, tabela e cláusula no meio.
- Por estrutura: respeita títulos, seções, artigos de contrato, itens de FAQ. Para documento corporativo, quase sempre ganha do tamanho fixo.
- Trecho pequeno para buscar, contexto maior para responder: indexa parágrafos curtos (busca mais precisa) e, quando um deles é encontrado, entrega ao modelo a seção inteira a que ele pertence. É a técnica com melhor custo-benefício que conhecemos.
- Contexto prefixado: antes de gerar o embedding, acrescente ao trecho uma linha como "Documento: Política de Reembolso 2026 › Seção: Prazos". Um parágrafo que diz só "o prazo é de 7 dias" passa a ser encontrável por quem pergunta sobre reembolso.
Busca híbrida e reranking
Busca vetorial entende sinônimo e paráfrase, mas é ruim com código de produto, número de contrato, sigla e nome próprio. Busca por palavra-chave (BM25) é o oposto. Em base corporativa, as duas juntas ganham das duas separadas.
A forma mais simples de combinar é o Reciprocal Rank Fusion (RRF): cada documento recebe a soma de 1 / (k + posição) em cada lista, com k em torno de 60. Não exige calibrar escalas diferentes de score e funciona bem sem ajuste.
Um exemplo enxuto em Postgres com pgvector e full-text search:
WITH vetorial AS (
SELECT id, ROW_NUMBER() OVER (ORDER BY embedding <=> $1) AS pos
FROM chunks
WHERE tenant_id = $2 AND grupo_acesso = ANY($3)
ORDER BY embedding <=> $1
LIMIT 50
),
textual AS (
SELECT id, ROW_NUMBER() OVER (
ORDER BY ts_rank_cd(tsv, plainto_tsquery('portuguese', $4)) DESC) AS pos
FROM chunks
WHERE tenant_id = $2 AND grupo_acesso = ANY($3)
AND tsv @@ plainto_tsquery('portuguese', $4)
LIMIT 50
)
SELECT id, SUM(1.0 / (60 + pos)) AS score
FROM (SELECT * FROM vetorial UNION ALL SELECT * FROM textual) t
GROUP BY id
ORDER BY score DESC
LIMIT 30;
Repare que o filtro de permissão está dentro das duas buscas, não depois. Volto a isso já.
Depois da fusão, um reranker (modelo cross-encoder, que lê pergunta e trecho juntos) reordena os 20 a 50 candidatos e escolhe os 5 a 8 que vão para o modelo. É a etapa que mais melhora precisão por real gasto: o reranker é muito mais barato que o modelo gerador e corta o ruído antes que ele vire resposta errada.
Mais duas técnicas que valem o esforço:
- Reescrita da pergunta: em conversa, "e para pessoa jurídica?" não significa nada sozinho. Um modelo barato reescreve a pergunta com o contexto da conversa antes de buscar.
- Filtro por metadado extraído da pergunta: "qual era a política em 2024?" vira filtro
vigente_desde <= 2024, não só palavras na busca.
Permissão: o item que derruba projetos
O erro mais grave em RAG corporativo não é resposta errada. É resposta certa para a pessoa errada: o estagiário perguntando sobre salário e recebendo um trecho da planilha do RH.
Três regras:
- Filtre antes de buscar, no próprio índice (pre-filtering). Filtrar depois do top-k (post-filtering) pode zerar os resultados e, pior, é fácil esquecer em algum caminho do código.
- Herde a permissão da fonte. Se o documento está numa pasta do Drive ou SharePoint restrita a um grupo, o trecho carrega esse grupo. Sincronize mudanças de permissão, não só de conteúdo.
- Nunca confie no modelo para esconder informação. "Não revele dados de salário" no prompt não é controle de acesso. O que não pode ser visto não pode chegar ao contexto.
Esse ponto também pesa na LGPD e no Marco Legal da IA: tu precisa conseguir mostrar quem acessou o quê, e por quê.
Montagem do contexto e citação
- Ordem importa. Modelos tendem a usar melhor o que está no começo e no fim do contexto. Coloque os trechos mais relevantes nas pontas.
- Identifique cada trecho (
[1],[2]…) e exija que a resposta cite. Citação permite ao usuário conferir e permite a ti medir se a resposta se apoia no que foi recuperado. - Dê ao modelo uma saída honesta: "se os trechos não respondem, diga que não encontrou". Sem essa porta, ele preenche a lacuna com conhecimento genérico.
- Cache de prompt: instruções e trechos fixos que se repetem entre perguntas podem usar o cache dos provedores, que reduz bastante custo e latência.
Como medir se está funcionando
Sem avaliação, cada ajuste é palpite. Monte um conjunto de 50 a 200 perguntas reais, com a resposta esperada e o documento que contém a resposta. A partir daí, meça separadamente:
- Recuperação, recall@k: o trecho certo apareceu entre os k resultados? Se não aparece, nenhum prompt resolve. Comece sempre por aqui.
- Fidelidade: cada afirmação da resposta está sustentada pelos trechos citados? Dá para medir com um modelo avaliador, conferido por amostragem humana.
- Utilidade: a resposta resolve a pergunta? Aqui o sinal vem do usuário (polegar, reabertura de chamado, escalonamento para humano).
Rode esse conjunto a cada mudança de chunking, modelo de embedding, reranker ou prompt. É teste de regressão, como em qualquer software.
RAG ou contexto longo?
Com modelos aceitando centenas de milhares ou milhões de tokens, a pergunta é justa. O critério prático:
- Contexto longo resolve quando a base é pequena (cabe com folga), estável e todo mundo pode ver tudo. Ex.: analisar um contrato, um edital, um relatório.
- RAG continua necessário quando a base é grande, muda todo dia, tem permissão por usuário ou o volume de perguntas é alto. Mandar 500 mil tokens em cada pergunta custa caro, demora e a precisão cai quando o trecho certo está perdido no meio.
Na prática, a arquitetura que mais vemos funcionar em 2026 é a combinação: RAG para achar os documentos certos, contexto longo para entregar esses documentos inteiros em vez de fragmentos. E, cada vez mais, o RAG vira uma ferramenta que um agente chama quando precisa, via MCP, em vez de um passo fixo antes de toda resposta.
Perguntas frequentes
O que é RAG?
É a técnica de buscar trechos relevantes nos documentos da empresa e entregá-los ao modelo junto com a pergunta, para que a resposta se baseie neles e não só no que o modelo aprendeu no treino.
Preciso de um banco vetorial dedicado?
Na maioria dos projetos empresariais, não. Postgres com pgvector e full-text search atende até alguns milhões de trechos e simplifica permissão, backup e operação. Banco dedicado começa a compensar em escala muito maior ou com requisitos específicos de latência.
Por que o RAG ainda alucina?
Quase sempre porque a busca trouxe o trecho errado ou incompleto. Antes de trocar o modelo, meça o recall@k.
Fine-tuning substitui RAG?
Não. Fine-tuning ensina formato, tom e tarefa; não é um bom jeito de guardar fatos que mudam. Para conhecimento atualizável e auditável, RAG.
Onde a Ketos entra
A gente desenha e opera RAG e agentes de IA sobre dados reais de empresa: ERP, CRM, Drive, SharePoint, base de chamados. Isso inclui a parte que o tutorial pula: ingestão de documento ruim, permissão herdada da fonte, conjunto de avaliação e monitoramento de custo. Se o teu piloto de IA responde bonito e erra, provavelmente o problema está numa das etapas acima, e dá para medir qual.
