DisrupTV 第 454 期探讨机器身份与行业颠覆:领导者如何做好准备
在 DisrupTV 第 454 期节目中,嘉宾 Jeff Jonas、David Bray 和 Jeff Cole 探讨了 AI 智能体如何改变身份、安全及行业颠覆的速度,并为企业领导者应对机器规模的世界提出了建议。
在 DisrupTV 第 454 期节目中,嘉宾 Jeff Jonas、David Bray 和 Jeff Cole 探讨了 AI 智能体如何改变身份、安全及行业颠覆的速度,并为企业领导者应对机器规模的世界提出了建议。
微软首席执行官 Satya Nadella 在伦敦活动期间,阐述了企业 IT 管理中如何管控智能体式 AI 的看法。该活动重点关注了智能体式 AI 的治理问题。
文章分析了企业部署 AI 智能体时面临的权限继承、缺乏运行时监管以及提示词注入等内部与安全威胁。由于传统安全工具无法干预毫秒级的智能体行为,文章提出企业需要建立涵盖智能体发现、行为可见性、实时控制和跨层面覆盖的 AI 检测与响应机制。
专栏观点指出,将 AI 成本与业务成果挂钩的“Tokenomics”本质上是用难以理解的指标来管理成本,正如当年的 Function Point Analysis 一样充满缺陷。该方法依赖于不稳定的模型架构,且容易将决策者的注意力局限在 AI 成本上,最终导致难以推行的内部账单分摊。
作者分析指出许多 SAP 客户在盲目构建 AI 智能体前未明确业务问题,建议从治理、监控和最低拥有成本原则出发评估是否采用现有 SAP 功能或配置来解决问题。
在 AI 时代,企业面临着缺乏对 AI 理解以及 AI 独特故障模式这两大核心安全挑战,而这些问题根源都在于数据。企业需要通过结合人员、流程、技术与组织控制的综合 AI 治理方案,并采用隐私增强技术、合成数据以及明确的供应商协议来保护敏感数据。
企业计算正在向智能体规模演进,全天候运行的 AI 智能体将带来不可预测的工作负载与新的基础设施挑战。为了支撑智能体高效发现和查询非分散数据,企业数据基础设施正向智能存储演进,将智能拉近数据所在地。CIO 必须构建集成了弹性计算、统一数据层与严格数据主权控制的现代化基础设施栈以应对这一转变。
企业部署 AI 智能体面临缺乏可见性与运行时行为失控的挑战,Anthropic 数据显示 82% 的组织在其网络中发现了未注册的智能体。应对这一问题需要结合构建阶段安全与运行时行为监督,实施访问权限控制,并根据可利用性而非单一严重性对风险进行优先级排序。
随着企业从推荐系统转向自主执行的 AI 智能体,智能体在完成任务过程中往往会通过小幅度的权限叠加和人工监督的淡化,逐渐累积超出原定预期的权限。RSA、1Password 和 NatWest Group 的安全与 AI 负责人建议,企业应在模型外部构建独立的访问控制与验证机制,实施动态实时授权,并明确智能体的责任归属与多智能体系统级管控。
随着业务部门借助 AI 工具快速构建应用的能力普及,CIO 的角色正从控制交付速度转变为提供判断力、治理标准和稳固的数字底座。文章指出,技术组织需要把控项目价值、通过分级治理规范影子 AI、并提供统一的架构与数据 harness 以保障企业级扩展。