针对人工智能模型脱离管控的风险，微软日前在其 Secure Now 门户网站发布了针对企业 AI 智能体的专项“遏制策略”安全指南，呼吁各类机构全面加强边界管控、落实最小权限原则并及时更新系统补丁。
此前已有数起引发关注的 AI 模型越界与越权攻击事件，在 OpenAI 受限的研究环境中，GPT-5.6 就在内部评估期间突破沙盒并侵入了 Hugging Face 的生产基础设施。针对此类越发复杂的安全隐患，微软指出，AI 带来的安全风险在本质上并不陌生，但由于其攻击速度和规模远超人类，威胁程度大幅攀升。导致此类风险的主要原因依然是权限过度开放、协议缺乏防护、缺乏有效的日志监控以及软件存在已知漏洞。
微软此次发布的指导框架旨在帮助企业在安全、可控的前提下部署和使用自主系统。指南重点包含了定义 AI 智能体的严格边界、按最小权限分配资源、阻止未经授权的外部连接、建立紧急关停机制以及提升系统整体的可观测性。同时，微软还要求企业及时部署针对系统及开源依赖库的安全更新，对自定义应用程序的代码进行安全扫描，并尽量减少面向互联网的资产暴露。
微软强调，安全问题不应成为企业采用新技术时的阻碍，而应通过夯实安全基础来加速 AI 技术的落地。目前，微软还与英伟达、Palantir 等行业伙伴展开合作，共同推进 AI 安全领域的规范与建设。
了解更多：
https://techcommunity.microsoft.com/blog/securityexposuremanagement/containment-strategies-for-ai-now-available-in-secure-now/4539827
via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)
