先了解这件事
PromptArmor 发文指出,本地运行 LLM 并不能解决数据外泄问题,因为漏洞位于处理模型输出的 AI 应用基础设施中,而非模型本身。文章以 Ollama 聊天界面为例,其不安全地渲染 HTML 和 Markdown 内容并配有不安全的 web 搜索工具,可导致钓鱼覆盖层、凭证窃取和上传文档外泄,并给出净化输出、纯文本渲染或内容安全策略等修复方式。
最新进展
PromptArmor:本地部署模型无法阻止数据外泄,以 Ollama 漏洞为例
事件进展1
PromptArmor威胁情报团队披露在企业AI应用中发现数百个数据泄露漏洞,并以Ollama聊天界面漏洞为例,列出20个漏洞
PromptArmor:Threat Intelligence:PromptArmor:本地部署模型无法阻止数据外泄,以 Ollama 漏洞为例