LangChain 解析 OpenAI 的 RAG 实验策略并给出实现方法
LangChain 撰文解读 OpenAI 在 demo day 分享的客户 RAG 实验,将其归纳为基线检索、查询变换、路由、查询构造、索引构建和后处理等类别。
推荐理由:原文将 OpenAI 分享的 RAG 实验逐项拆解,并给出 LangChain 中可直接复用的对应实现入口。
全球 AI 公司、研究机构和媒体的最新动态,自动挑出值得看的,全天自动更新。
更新于 10月20日 00:46 · 每小时自动更新
LangChain 撰文解读 OpenAI 在 demo day 分享的客户 RAG 实验,将其归纳为基线检索、查询变换、路由、查询构造、索引构建和后处理等类别。
推荐理由:原文将 OpenAI 分享的 RAG 实验逐项拆解,并给出 LangChain 中可直接复用的对应实现入口。
OpenAI 官方宣布领导层变动,材料抓取失败,仅标题可用,具体细节以原文为准。
LlamaIndex 发布 0.9 大版本,引入 IngestionPipeline 数据摄取抽象,转换步骤自动缓存以加速重复运行。
推荐理由:官方梳理了 0.9 的数据摄取缓存、接口精简和 tokenizer 默认值变化,开发者可据此评估升级成本与迁移要点。
LlamaIndex 推出 create-llama 命令行工具,通过 npx create-llama 即可交互式生成一个可与自己数据对话的全栈应用。
推荐理由:原文给出了脚手架工具的技术选项和数据接入方式,开发者可以据此快速判断是否用它搭建 LlamaIndex 应用。
LlamaIndex 发布多模态 RAG 支持能力,新增 OpenAIMultiModal、ReplicateMultiModal、MultiModalEmbedding(CLIP)和 MultiModalVectorStoreIndex 等抽象,可对文本和图像统一索引与检索。
推荐理由:原文由 LlamaIndex 给出多模态 RAG 的新抽象与代码示例,读者可以直接了解 GPT-4V、CLIP 与 Qdrant 在同一管线中的组合方式。
LlamaIndex 在 OpenAI 开发者日当天更新库,支持 gpt-4-1106-preview(GPT-4 Turbo,128,000 token 上下文窗口、JSON mode、并行函数调用等)和 gpt-4-vision-preview 多模态模型。同时新增 Azure OpenAI 端点、嵌入抽象与函数调用示例,其 RAG 演示 SEC Insights 已改用最新版 GPT-4。
推荐理由:LlamaIndex 当天即完成对 OpenAI 新模型的支持,读者可借此了解新能力在 RAG 工作流中的接入方式。
OpenAI 在 DevDay 上发布 GPT-4 Turbo,支持 128K 上下文且价格更低,同时推出新模型和开发者产品,包括 Assistants API、GPT-4 Turbo with Vision 和 DALL·E 3 API 等。
推荐理由:官方一次性列出多模型与开发者产品更新,128K 上下文和降价信息可帮助开发者评估迁移成本。
OpenAI 推出 GPTs,用户可以创建结合指令、额外知识和任意技能组合的 ChatGPT 自定义版本。
推荐理由:OpenAI 官方宣布用户可自建结合指令、额外知识与技能的定制版 ChatGPT,可据此了解这一新功能的用途。
LlamaIndex 介绍如何在 RAG 中使用 LongLLMLingua,通过问题感知的粗粒度重排、细粒度提示词压缩和子序列恢复来增强 LLM 对关键信息的感知。
推荐理由:原文拆解了 LongLLMLingua 的粗细粒度压缩与重排细节,并给出在 LlamaIndex 中作为 NodePostprocessor 的用法,可迁移到自己的 RAG 成本优化。
LlamaIndex 用其 Retrieval Evaluation 模块,以 Hit Rate 和 MRR 两项指标评测多种 Embedding 模型(OpenAI、Cohere、Voyage、Jina、bge-large、Google PaLM 等)搭配不同 Reranker 的检索效果。
推荐理由:原文提供了可复现的评测脚本和各嵌入与重排模型组合的 Hit Rate 与 MRR 数据,读者可以照此在自己的数据上选型。
2023 年 11 月 2 日,首届 AI Safety Summit 在 Bletchley Park 举行,英国首相办公室及科学、创新和技术部发布总结。世界领导人与头部公司一致认同先进 AI 风险的重要性以及测试的意义。
推荐理由:主办方官方总结首届峰会成果,读者可从中了解各方对先进 AI 风险与测试重要性达成的共识。
OpenAI 宣布 DALL·E 3 正式在 ChatGPT Plus 和 Enterprise 中可用。官方表示已为更广泛发布构建了安全缓解措施堆栈,并同步分享了来源(provenance)研究的最新进展。
推荐理由:官方宣布 DALL·E 3 上线 ChatGPT Plus 和 Enterprise,并提及安全缓解措施与来源研究进展。
LlamaIndex 发布教程,介绍 LayoutPDFReader 如何结合层级布局信息解析 PDF,实现章节识别、段落合并、表格与列表处理等内容感知分块。文章给出接入 llmsherpa API 和构建 LlamaIndex 向量查询引擎的示例代码,并说明该工具仅支持带文本层的 PDF,暂不支持 OCR。
推荐理由:文章解释了 PDF 解析难点并给出 LayoutPDFReader 的层级解析与智能分块方法,含可直接复用的代码。
Rubric Labs 团队在 LangChain 博客发布指南,讲解为 Cal.com 构建的 AI 邮件调度助手 Cal.ai 的生产架构。
推荐理由:原文拆解了一个已在生产环境运行的邮件调度 Agent 架构,读者可以借鉴其工具设计与提示词构造方法。
云函数平台 Modal 正式全面开放,任何人可注册并在几分钟内于云端运行代码,同时宣布完成由 Redpoint Ventures 领投的 1600 万美元 A 轮融资。
推荐理由:官方宣布开放注册并公布融资,文中列出 GPU 型号、计费方式和 Ramp、Substack、Suno 等生产用户,可了解其定位与用法。
LlamaIndex 演示如何用 Response Evaluation 模块评测 RAG 系统的最佳 chunk size,以 Uber 2021 10K 文件为数据。
推荐理由:原文给出可复现的评测流程和具体数据,读者可以据此在自己的 RAG 场景中测试并选定合适的 chunk size。
Mistral AI 发布 7.3B 参数开源模型 Mistral 7B,采用 Apache 2.0 许可证。官方重跑评测显示其在所有基准上超过 Llama 2 13B,在多项基准上超过 Llama 1 34B,代码性能接近 CodeLlama 7B。
推荐理由:官方发布给出了与 Llama 2 全面的对比评测数据和 GQA、SWA 技术细节,模型以 Apache 2.0 开源可商用。
Mistral AI 发布公司宣言并开源首个 7B 参数模型 Mistral 7B,采用 Apache 2.0 协议,在标准英文和代码基准上超越所有现有 13B 以下开源模型。官方称三个月内组建团队并从零搭建 MLOps 栈与数据处理管线,同时开设 GitHub 仓库和 Discord 频道,未来将陆续发布更大模型。
推荐理由:Mistral AI 阐明开源路线并发布首个模型,读者可了解其定位与 Mistral 7B 的实际性能表现。
OpenAI 发布 GPT-4V(ision) 系统卡,说明该多模态模型的相关信息。
OpenAI 宣布 ChatGPT 新增看、听、说能力。用户可向 ChatGPT 展示图像并进行对话讨论,也可用语音与它交流。
留下联系方式,我会亲自联系你;想先问问,也可以直接写在下面。消息会实时送到我手上,回复会显示在这里,关掉网页再回来也能看到。