我们保护儿童安全的方法
Our Approach to Child Safety
AI 导读Runway公司遵循Thorn的“生成式AI安全设计”原则,全流程保护儿童免受AI滥用。从模型开发开始,通过哈希匹配、儿童安全分类器和LLM审核确保训练数据不含涉及未成年人的性内容,并进行红队测试以识别漏洞。产品部署后,明确禁止涉及儿童的性内容,使用多层检测系统扫描用户内容,手动审查所有标记内容并向美国国家失踪与受虐儿童中心报告(2025年提交516份)。同时实施C2PA来源信号追踪内容生成,并持续与行业组织合作应对威胁。
来源:Runway:News · runwayml.com