Hugging Face 详解 transformers 为支持 OpenAI GPT-OSS 做出的多项性能升级
Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers
AI 导读Hugging Face 发文介绍为让 OpenAI GPT-OSS 系列在 transformers 上高效运行所做的库升级,包括可从 Hub 下载的零构建内核、MXFP4 原生量化、张量并行、专家并行、动态滑动窗口缓存、连续批处理与更快的模型加载。
来源:Hugging Face 社区博客 · huggingface.co