护航医疗AI安全：九渊问鼎受邀分享智能体可信管控“密码”底座
/传播易/近日，由上海市密码管理局、上海申康医院发展中心指导，上海市商用密码行业协会主办的“2026年上海市医疗卫生密码应用与创新发展技术沙龙”在G60商用密码产业基地成功举办。九渊问鼎(上海)科技有限公司受邀出席，并围绕《AI智能体的可信管控》作主题分享，为医疗AI的安全发展提供专业洞察。
AI智能体引入新风险：从“内容生成”走向“业务操作”
九渊问鼎指出，医疗AI正从传统问答应用向智能体(Agent)演进。传统问答主要关注输入泄露与内容准确性，而智能体具备理解任务、调用工具、执行业务操作乃至改变业务状态的能力。以“出院随访助手”为例，智能体可查询病历、生成随访草稿并发送通知，其风险直接转化为实际业务影响。
智能体的安全范式已发生根本变化：行为决定因素从固定代码逻辑转向模型、提示词与工具返回;风险来源增加了对抗性攻击与内生风险;核心信任模型从“信任应用确定性”转变为“默认不可信，依赖外围控制体系”。管控必须覆盖数据、模型和工具调用的整个任务链条。
医疗授权需结合业务关系，风险按三变量分级
针对医疗场景，九渊问鼎强调授权须结合业务关系判断。以临床诊疗、科研、随访为例，可查看、可导出、可生成、可提交等操作应分别授权，并综合患者范围、诊疗关系、业务用途及有效期限等条件。在风险分级上，提出“风险=自主程度×行动能力×不可逆性”的公式。
五项基础能力与密码底座：构建可信管控架构
在架构层面，可信管控涵盖五项基础能力：资产、身份、权限、凭证及审计。一项任务需贯穿这五个维度。
在此基础上，九渊问鼎提出“密码+人工智能可信运营平台”建设思路。该平台以数字证书、HSM/KMS、机密存储、密码服务、TEE安全证明等核心密码底座为支撑，向上提供模型可信、数据可信、内容可信与智能体可信四类能力，实现动态身份、意图感知、任务级授权与全链路追溯。
全路径管控与成熟度路径：从可观察到审计纳管
在落地实践方面，需要对智能体身份、权限、行为进行全链路管控。借助智能体运行时身份，结合全链路探针与全栈行为审计，实现从数据采集到风险处置的完整闭环。
建议医疗机构按“可观察—凭证纳管—资源纳管—审计纳管”路径推进：先登记AI资产，看清运行与异常;再集中托管密钥凭证;进而在资源入口核验身份、按患者与用途授权;最终集中采集操作记录，实现过程可追溯、责任可复核。
在医疗数字化转型与商用密码合规常态化背景下，九渊问鼎的分享从风险分析、授权逻辑、架构设计到落地路径，为医疗卫生机构提供了系统性参考。以密码为基、以治理为纲，构建覆盖智能体全生命周期的可信管控体系，将是医疗AI行稳致远的关键。
热门标签
