Google Cloud 在 Cloud TPU 上为 vLLM 实现长上下文多模态嵌入推理

Google Cloud 将原生 TPU 支持集成进 vLLM，并以 Qwen3 Embedding 系列为目标模型完成多项优化，支持 4K+ token 文本与 15K+ token 多模态输入的嵌入推理。TPU 与 XPU 参考输出的余弦相似度目标为文本 ≥0.999、多模态 ≥0.995，官方还提供了 Qwen3-Embedding-8B 在 TPU 上的 vLLM 示例。