CIO.com – Enterprise Applications·· 3 天前AI 评分63
Autonomous creep:AI 如何在不知不觉中获得超出 CIO 预期的高权限
Autonomy creep: how AI quietly gains more authority than CIOs intend
AI 导读
随着企业从推荐系统转向自主执行的 AI 智能体,智能体在完成任务过程中往往会通过小幅度的权限叠加和人工监督的淡化,逐渐累积超出原定预期的权限。RSA、1Password 和 NatWest Group 的安全与 AI 负责人建议,企业应在模型外部构建独立的访问控制与验证机制,实施动态实时授权,并明确智能体的责任归属与多智能体系统级管控。
来源:CIO.com – Enterprise Applications · cio.com