vLLM 新增基于 Gumbel-max 的无失真文本水印功能
Watermarking in vLLM
AI 导读vLLM 宣布支持基于 Gumbel-max 算法的无失真水印,将其集成进 Model Runner v2 的采样管线,并通过 PR #54053、#56122、#56233 实现融合 GPU kernel、双键方案和上下文去重,以兼容投机解码并保持输出多样性。
来源:vLLM 官方博客 · vllm.ai
事件后续1
查看事件全部- vLLM 新增基于 Gumbel-max 的无失真文本水印功能vLLM 官方博客 · 20 天前