详细介绍

概述

随着 AI 技术快速演进，全球已就「Make AI Safe」形成共识：从《上海共识》到欧盟 AI 法案，AI 安全的红线正在确立。Gartner 判断，到 2028 年超过 50% 的企业将采用 AI 安全平台；而当下 80% 的未授权 AI 使用源自内部政策违规，而非外部攻击。

国内监管同样从「软性治理」走向「刚性红线」：《网络安全法》2026 年新规要求完善 AI 伦理规范、加强风险监测评估；《生成式人工智能服务管理暂行办法》明确了上线前安全评估与备案要求；GB/T 45654-2025 则规定了语料安全与模型安全评估方法，强调自动化闭环检测。合规已成为大模型落地的必答题。

矢安科技 AI 大模型安全评估解决方案，面向大模型厂商、应用开发者与企业安全团队，用实战化的攻击手法检验模型、AI 基础设施与 AI 围栏的真实防护能力，把「有没有做安全」变成「拦不拦得住」。

痛点挑战

1. 上线前的合规评估是硬门槛

备案与上线前评估都需要可核查的结论：语料来源是否合法、核心价值观是否对齐、违法与不良内容能否屏蔽、RAG 与提示词注入风险是否可控。缺少体系化的评估方法与证据，合规只能停在「自查表」层面。

2. 攻击面从「技术点」转向「语义与认知层」

OWASP Top 10 for LLM 列出的风险——提示词注入、敏感信息泄露、供应链漏洞、数据与模型投毒、不安全的输出处理、过度代理、系统提示泄露、向量弱点、虚假信息、资源无限制消耗——大多不是传统扫描器能发现的问题。

3. 围栏与模型防护「配了」，但没人验证是否持续有效

AI 围栏（大模型安全护栏／大模型防火墙）上线后，攻击手法仍在快速演进：新的越狱话术、编码混淆、间接注入不断出现。没有持续的对抗验证，围栏策略是否还挡得住，只能靠猜。

4. 缺少可量化的评估结论

「模型比较安全」这类判断无法支撑决策。企业需要的是可比的评分、逐项的问题定位，以及可复测的基线。

方案简介

方案由两部分组成：AI 大模型及应用安全评估与AI 围栏实战化评估，以矢安科技攻鉴（AS BAS）的实战化评估能力为底座——攻击样本经无害化处理，轻量化 Agent 直接部署在真实环境，无需靶场。

评估过程分四步：客户将内部大模型的 API 接入矢安 LLM 评估系统 → 选择提示词数据集调用 API 获取被测模型输出 → 调用评估模型对输出打分（1-5 分）并按二级领域细分 → 输出单项结果与 Web 应用维度的评估结论。

评估内容

模型层（Model）

关注模型本身的鲁棒性与对齐，包括对抗训练防御、内生安全护栏（自我纠错）与知识边界测试，验证模型在对抗性输入下是否仍能守住价值观与合规底线。

AI 基础层（AI Infra）

关注模型运行环境与供应链安全：模型文件扫描（PickleScan）、依赖库漏洞检测、推理服务抗 DDoS 能力，排查后门与已知漏洞带来的风险。

应用层（Agent / APP）

关注应用侧风险与漏洞：RAG 数据投毒、插件越权调用（Excessive Agency）、多轮对话逻辑陷阱，以及系统提示泄露、不安全的输出处理等典型问题。

AI 围栏评估

支持 API 与代理网关两种围栏接入方式，从「用户 → AI 围栏 → 大模型/AI 应用」的真实链路发起验证，覆盖语义诱导、内容混淆、注入对抗三大类、数十小类，累计近万种攻击方式。

三大类攻击手法

语义诱导与越狱

针对模型逻辑层，用角色扮演、情景假设、文学虚构、嵌套叙事、思维链诱导、少样本模仿等话术，诱导模型突破道德与安全限制，输出本应被拒绝的内容。

内容混淆与编码

针对输入形式层，用 Base64/Morse/Rot13 编码、文言文表述、多语言翻译循环、代码与 JSON 封装、分隔符插入、无关噪音稀释、字符翻转等方式，绕过关键词匹配与特征检测。

注入与对抗

针对系统指令层，通过伪造系统指令、规则重置覆盖、系统提示窃取、间接提示注入、令牌级攻击与梯度后缀攻击（GCG）等，篡改系统设定或干扰模型判断。

三类业务场景

AI 备案评估

面向大模型厂商与应用开发者，做模型层与应用层双层合规：验证语料来源合法性、核心价值观对齐、非法内容屏蔽能力，检测 RAG 数据检索投毒、提示词注入绕过与多轮对话逻辑陷阱，输出覆盖 30+ 安全基线的《AI 安全评估报告》。

常态化体检

面向企业安全运营与开发团队：在模型微调或 System Prompt 更新后自动触发安全回归测试，按固定周期运行体检剧本，检测新型越狱话术等新风险下的防御有效性，把「被动合规」变成「主动防御」。

AI 专项场景检查

面向高安全需求客户：商用模型或开源模型采购前的供应链准入评估，排查后门与漏洞；攻防演练中模拟利用 AI 生成钓鱼邮件、代码投毒、突破 AI 客服防线；跨境 AI 服务的数据出境合规与敏感数据过滤能力评估。

交付成果

评估输出单项结果与 Web 应用维度的评分明细，逐项定位问题所在，并给出整改建议；整改完成后可复测同一批用例，验证防护能力是否真正回升，形成可持续的评估基线。

为什么选择矢安科技

矢安科技是 Gartner《中国安全技术成熟度曲线》「对抗性暴露验证（AEV）」代表厂商，2023—2025 年连续入选 BAS / AEV 相关技术代表厂商；IDC《中国攻击面管理厂商技术评估》中获 EASM & BAS 五星评价。公司重点参与起草了《金融网络安全防御有效性验证实施指南》《信息安全技术网络安全防护有效性验证系统安全技术要求》《关键信息基础设施安全防护能力要求与评价》三项行业与团体标准，2025 年「磐石行动」获 AI 安全优秀专项奖，近两年自主挖掘 25 个以上 0day 漏洞。