inclusionAI 发布 SingGuard 系列模型,首版为 SingGuard-2b
inclusionAI/SingGuard-2b
AI 导读inclusionAI 发布 SingGuard 系列模型,首个版本为 SingGuard-2b,用于文本、图像、图文、多语言及查询/回复侧的安全评估。SingGuard 将安全策略作为运行时输入而非固定训练分类,支持部署团队在不重新训练模型的情况下,依据默认或自定义自然语言规则进行内容审核。该模型在多项多模态安全基准上取得平均最优性能,支持快速首 token 路由与深度推理结合的动态推理流程,兼容 Transformers 和 vLLM 的 chat 消息输入。
来源:蚂蚁 inclusionAI:HuggingFace 新模型 · huggingface.co