
你愿意把改签车票这件事交给AI吗?亚马逊CTO Werner Vogels愿意,不过他先提了几个条件。
一、会动手的Agent,麻烦和聊天机器人不一样
聊天机器人给出一段文字,人看完再决定怎么办。Agent会代表用户采取行动,改行程、调用工具、执行程序。模型给错答案,错误就会顺着执行过程变成真实后果。
这个差别看着小,落到业务上一点都不小。一段写错的文案,用户一眼能看出来。一次被错误执行的退款、改签或者下单,要挽回就得付出真金白银。
二、愿意让Agent改签车票,但他要三个条件
Werner对Agent并不排斥。他很乐意让它帮忙改签车票,前提是系统知道怎么操作、记得住他的偏好,同时受到约束。
亚马逊为此设计了规则执行机制,对Agent访问工具、运行脚本等操作逐项检查,把它限制在客户明确授权的范围内。
他举的例子很直白,用户可以规定Agent每天的支出不超过100美元,一旦超出,就得有人参与决策。
授权一旦写成具体数字,边界就不再模糊。模型觉得某件事值得做,执行系统仍然要确认它有没有权限做。
三、Nitro的旧办法,正好能回答新问题
这套思路,Werner讲Nitro的时候已经用过一次。
早期云计算靠虚拟化,把一台物理服务器分给多个用户。管理虚拟机、处理网络和存储访问的软件本身也消耗资源,虚拟机一多,这层管理就成了瓶颈。
AWS的做法是把网络、存储等功能卸载到专用硬件,去掉原先那个完整的Linux管理环境dom0。性能瓶颈缓解了,攻击面也跟着缩小。
Nitro还有一个设计叫被动通信。虚拟机监控程序等待控制器下发命令,如果它反过来主动联系控制器,就出现了正常流程里不该有的行为,平台据此可以把相关系统退出服务,展开调查。
四、约束会不会拖慢Agent,他先谈责任
把权限收紧,效率会不会受影响?问到这个问题,Werner先谈的是责任。
「你构建它,你就对它负责。」
在他看来,Agent的开发者必须能够控制它,系统做了什么、有没有越界,最终仍然需要人负责。
他对AI的信任,也沿用分布式系统的老思路。工程师从不假设每个组件永远可靠,所以才有复制、隔离和各种可靠性机制。对单个组件保持警惕,整个系统才谈得上可信。
五、看得见的智能,看不见的工程
麻烦在于,这些保护机制得让客户用得起,又不能明显拖慢任务。Lambda就遇到过类似的取舍。
早年WeTransfer为了处理上传到S3的文件,需要一直运行一批计算实例,等待新文件到来。AWS想把这活接过来,让客户只管提交代码、按执行时间和内存付费。收费方式好定,底层怎样高效实现却是一道难题。
早期Lambda用虚拟机隔离不同客户,对函数任务来说依然太大,成本很高。后来团队通过Firecracker把隔离单元做成更轻的微虚拟机,资源利用率才提上来。隔离解决了,又轮到冷启动。SnapStart把已经初始化好的环境存成快照,省掉一部分准备开销,改善启动表现。
客户看到的,可能只是一次函数调用。工程团队却要在背后持续打磨隔离、资源分配、启动和网络。Werner把这些工作称为「看不见的工程创新」。
Agent要进入真实业务,同样躲不开这些细活。演示跑通只是开始,权限怎么限制、异常怎么处理、用户愿意把多大范围的任务交出去,都得逐条定清楚。
Werner的中国行里,有一个让他对AI更乐观的例子。一家叫「大米和小米」的机构,为自闭症、注意缺陷多动障碍等有发展支持需求的儿童提供服务,用AI分析教学记录、观察孩子的进展,再向康复师给出建议,由康复师结合专业判断决定采不采用。AI替专业人员省下事务性工作,让他们把精力留给孩子和家庭。
怀疑和乐观在他这里并不冲突。任务适不适合交给AI,成本能不能承担,边界怎么划,结果由谁验证,这些问题逐条答完,AI才真正用得踏实。