← All articles

Inteligência Artificial · 12 min

RAG na prática: como fazer a IA responder com os dados da tua empresa sem inventar

Quando o chatbot da empresa responde bonito e erra, o problema quase nunca é o modelo: é a recuperação. Este é o mapa técnico de um RAG de produção, peça por peça, com as decisões que mais pesam na qualidade da resposta.

TL;DR

RAG (Retrieval-Augmented Generation) busca trechos dos documentos da empresa e os entrega ao modelo junto com a pergunta. - A qualidade é limitada pela pior etapa: ingestão, chunking, busca, rerank, montagem do contexto. - Ingestão: tabelas em PDF, OCR, cabeçalhos repetidos e versões de documento são as maiores fontes de erro; guarde metadados de versão, vigência e acesso. - Chunking por estrutura, com trecho pequeno para buscar e seção inteira para responder, costuma ganhar do tamanho fixo. - Busca híbrida (vetorial + BM25) combinada com Reciprocal Rank Fusion, seguida de reranker cross-encoder, é o arranjo de melhor custo-benefício. - Permissão deve ser filtrada dentro da busca (pre-filtering), herdada da fonte, e nunca delegada ao prompt. - Avalie separadamente recuperação (recall@k), fidelidade e utilidade, com 50 a 200 perguntas reais. - Contexto longo substitui RAG só em bases pequenas, estáveis e sem permissão por usuário; o mais comum é combinar os dois.