热点榜
热点事件已平息

AnswerAI 开源发布 Python 包 Cachy,自动缓存 httpx/LLM API 调用,称使 notebook 测试提速约60倍

1 篇报道1 个报道来源10 月 1 日更新

先了解这件事

Answer.AI 发布开源 Python 包 cachy(pip install pycachy),通过补丁 httpx 的 send 方法,把 Anthropic 和 OpenAI SDK 的 LLM 调用响应自动缓存到本地并在相同请求时复用,无需编写 mock。

最新进展

Answer.AI 开源 cachy,让 notebook 中 LLM 调用快 60 倍

事件进展1

  1. AnswerAI 开源发布 Python 包 Cachy,自动缓存 httpx/LLM API 调用,称使 notebook 测试提速约60倍

    Answer.AI 官方研发博客:Answer.AI 开源 cachy,让 notebook 中 LLM 调用快 60 倍

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。