（来源：澎湃新闻）

　　随着AI（人工智能）从生成内容走向自主执行任务，智能体（Agent）正在改变企业使用AI的方式，新的问题也开始出现：如何为获得自主行动能力的AI划定边界？

　　10月14日，亚马逊副总裁兼首席技术官Werner Vogels在深圳接受澎湃新闻等媒体采访时表示，Agent正在成为一种新的计算工作负载。与主要生成供人阅读内容的聊天机器人不同，Agent能够代表用户采取行动。

　　Werner强调：“谁开发了Agent，谁就要对它的行为负责。”

　　在亚马逊工作了22年的Werner既是云计算发展的亲历者，也是长期研究分布式系统的技术专家。在他看来，Agent走向实际应用，考验的不只是模型有多聪明，还包括如何划定行动边界、控制运行成本，以及判断技术能否创造实际价值。

　　Agent开始替人行动，记忆与控制成为新问题

　　从聊天机器人到Agent，这一变化让AI安全问题从“回答是否准确”延伸到“行动是否合规”。自今年夏天以来，多家AI公司集中披露Agent的“失控”行为，围绕AI安全的讨论持续升温。

　　在Werner看来，Agent并非一种完全脱离既有计算范式的新事物。过去的软件系统也会在特定事件发生后执行任务，但Agent拥有更多能力，可以接触更多知识，也被赋予了更大的自主性。它不再只是提供建议，而是可能直接操作外部系统，替用户完成任务。

　　要让Agent真正持续工作，还需要解决记忆问题。Werner近期关注的一个方向，是Agent如何记住过去的工作，以及如何决定忘记什么。

　　“记忆并不是无限的。”Werner表示，如果Agent每次执行任务前都要重新扫描所有已知信息，系统就需要付出大量计算成本。更好的办法，是将信息压缩成当前任务真正需要的内容。

　　他以亚马逊的Kiro开发工具为例。不少编程工具在重新启动后，会再次加载整个项目，无法延续上一次会话中完成的工作。Agent如果能够保留项目背景、协作记录和此前的执行结果，就可以减少重复处理，让持续性工作更有效率。

　　如果说记忆决定Agent能否持续工作，那么，权限控制决定它可以做什么。

　　据Werner介绍，亚马逊云科技（AWS）正在通过Dogwood等机制，规定Agent可以执行哪些操作。例如，Strands Box将沙箱隔离与Dogwood策略结合，对访问MCP服务器、执行Python脚本、访问互联网等操作设置相应的权限控制。

　　Werner认为：“AI是我们创造的东西。它没有自己的独立意志。”因此，如果开发者没有设置好控制措施，任由Agent超出预设范围行动，责任仍然在人。

　　这套思路与Werner长期从事分布式系统研究、参与AWS发展的技术背景相呼应。Werner于2004年加入亚马逊，参与了公司的技术发展，也见证了云计算如何通过大规模基础设施和软件系统提供可靠服务。

　　在Werner看来，建立信任并不意味着相信每一个组件都不会出错，可靠的系统需要通过跨数据中心复制、算法以及多重机制来提升整体可靠性，“我们从来不信任系统中的某个单独组件”。

　　换言之，与其寄希望于某个模型永远不犯错，不如在系统层面为错误设置边界，并在风险出现时及时发现和拦截。

　　当然，并不是说所有任务都必须由人逐一审核。Werner认为，企业应当根据潜在后果决定控制强度：Agent生成会议摘要，可以由人快速浏览；生成面向客户的营销内容，发送前就可能需要审核；如果涉及金融、医疗等高风险场景，则需要更加严格的验证机制。

　　这也意味着，Agent的自主性不应只有“开”与“关”两种选择。真正需要设计的是一套与风险相匹配的权限和审核体系：低风险任务尽可能自动化，高风险行动则保留人工决策和介入的空间。

　　AI投入回到经济账，人的判断仍不可替代

　　除了安全，Werner反复谈到的另一个问题是成本。他认为，企业采用AI不应只追逐最新、最强的模型，而应回到具体任务，判断技术能否创造足够的价值。

　　回顾亚马逊云科技过去20年的历程，Werner认为，最让他自豪的不只是技术突破，而是云计算改变了IT服务的经济模式。

　　在传统IT采购模式下，企业往往需要提前投入大量资金，签订长期合同，却很难准确预测未来的资源需求。云计算则让客户能够按实际使用量付费，并根据需求变化扩容或缩容。

　　用Werner的话来说：“扩展不只是扩容，缩容甚至更重要。”这样一来，企业不必继续为闲置资源付费。

　　Werner的这一思路也延伸到AI时代。他在2023年提出“俭约架构”（The Frugal Architect）理念：成本与安全、性能和可持续性一样，都应成为架构设计的要求。AI应用不能只看效果，还要计算获得这些效果需要付出多少代价。

　　Werner坦言，自己不会完全信任基准测试的成绩：“我对基准测试有些怀疑。它们是人为构造的测试，并不等同于真实生活。有时，模型足够好用就够了。你真的需要排名第一的模型吗？它可能比其他模型贵得多。”

　　同时，Werner肯定了DeepSeek、通义千问和Kimi等中国模型的进展，也强调开放权重模型的重要性。对于企业而言，获得模型权重意味着在授权条件允许的情况下，可以选择自行运行模型，不必始终依赖成本更高的方案。

　　在Werner的设想中，企业可以从较强的大模型开始测试，再根据实际表现选择更适合具体任务的小模型；重要的不是一开始就押注某一种技术，而是在实践中比较成本与效果：“我仍然希望客户不断实验、测量和学习。”

　　对于担心错过AI浪潮的企业，Werner建议先花时间了解技术真正能做什么、不能做什么，再决定如何应用。他认为，企业有时会因为焦虑而急于转型，却没有充分理解AI的能力和局限。

　　Werner解释道：“恐惧是一种非常糟糕的决策方式。只有知识才能消除恐惧，所以大家必须了解技术真实的能力和结构。”

　　而技术能否创造价值，最终还要回到人的具体需求。

　　Werner在中国接触了为有发育障碍儿童提供干预服务的“大米和小米”。在相关教学场景中，AI可以分析教学视频、追踪儿童的进展并提出干预建议，但哪些建议适用于具体儿童，仍需要治疗师结合实际情况作出判断。AI能够帮助专业人员减少行政性工作，把更多时间留给孩子，却不能代替人的经验。

　　Werner总结道：“人类在创造力、判断力、智慧和经验方面具有独特性。经验没有压缩算法。工具可以帮助我们，但最终采取行动的仍然是人。”

　　从云计算改变IT服务的付费方式，到今天讨论Agent的权限、成本与责任，Werner关注的始终不只是技术能够做到什么，更是它如何被可靠地使用，以及最终能为人带来什么。

　　对正在走向自主行动的Agent而言，能力越强，越需要清楚的边界。技术可以帮助人完成更多工作，但信任的建立，最终仍要依靠可靠的系统、明确的责任和人的判断。