LlamaIndex 集成 LongLLMLingua:用提示词压缩缓解 RAG 的 Lost in the Middle 并降本
LongLLMLingua: Bye-bye to Middle Loss and Save on Your RAG Costs via Prompt Compression
AI 导读LlamaIndex 介绍如何在 RAG 中使用 LongLLMLingua,通过问题感知的粗粒度重排、细粒度提示词压缩和子序列恢复来增强 LLM 对关键信息的感知。
来源:LlamaIndex:产品、工程与评测 · llamaindex.ai