全部新闻

人工智能 ·

AI 代理的成本核算:别再数 Token,该数交付成果了

随着 AI 编程代理从单次问答转向多步骤工作流,单次任务消耗的 Token 可能达到普通聊天提示的 10 到 50 倍,行业需要重新思考成本与价值的衡量方式。

一张中性的示意图,画面中有一个抽象的软件开发流程图,旁边放着计算器和带有对勾的交付清单,背景为简洁的代码界面。
一张中性的示意图,画面中有一个抽象的软件开发流程图,旁边放着计算器和带有对勾的交付清单,背景为简洁的代码界面。

AI 代理的兴起正在改变开发者使用大语言模型的方式。与传统的聊天机器人只做一次回答不同,当开发者给一个 AI 代理下达编程任务时,代理会先进行规划,再生成代码,接着运行测试,并根据错误反复修正,直到任务完成。这种多步骤的工作流程意味着,单次任务所消耗的 Token 数量可能远高于一次普通的聊天提示。

这一变化给成本核算带来了新的挑战。过去,人们习惯用 Token 数量来衡量模型的使用量和费用。但在代理场景下,如果仍然只看 Token,就会忽略代理完成实际工作的价值。一次看似昂贵的代理运行,可能取代了开发者数小时的手工调试和测试,其意义不能简单地用输入和输出的文字量来比较。

业内开始出现一种观点:与其继续计算 Token,不如计算真正交付了什么。也就是说,评估 AI 代理的效率,应当看它最终完成了多少个可运行的软件功能、修复了多少个缺陷,或者通过了多少项测试,而不是它消耗了多少计算资源。这种衡量方式更贴近软件工程本身的目标。

随着 AI 代理变得越来越有用,它产生的调用次数也在增多,这会进一步放大 Token 消耗与交付价值之间的差距。因此,团队如果继续沿用传统的按 Token 计费或评估方式,可能会错判代理的实际回报,甚至阻碍更有价值的工作流被采用。

未来,开发工具和平台可能需要提供更细粒度的指标,帮助团队理解代理每一步操作的贡献,而不是把成本简单地摊到 Token 上。只有改变衡量标准,企业才能更准确地判断 AI 代理是烧钱机器,还是真正提高生产力的工具。

来源: MIT Technology Review

基于所附来源由 AI 撰写