智能体

小型 AI 模型对比:例行工作的成本与质量

GPT-6 Luna、Claude Haiku 5.5、Gemini Flash-Lite、Amazon Nova 与中国模型对比:成本指数、幻觉、工具使用、JSON 以及应用场景。

简要说明

对于邮件分拣、订单审核或分类,小型 AI 模型通常已经够用。在成本上,最便宜和最贵的小型模型之间相差约 24 倍,大型模型的成本则是小型模型的 15 至 30 倍。比标价更重要的是思考 token、长提示词带来的价格跳升,以及模型凭猜测作答的频率。

企业中的许多例行任务都可以交给小型 AI 模型完成:对邮件进行归类、审核生产订单、对网站上的操作进行分类,或全天候监控某项状态。在标价上,各家供应商相差不大。各模型的明显差异在于:它们凭猜测作答的频率、调用工具的可靠程度,以及消耗的思考 token 数量。本文数据来自各供应商的价目表、独立基准测试以及我们在 Hawk IVO Force 中开展的实践测试,截至 2026 年 10 月 20 日。

本文中的成本以成本指数而非美元表示。标价变动频繁,而且各供应商的价格并非 Hawk IVO Force 的价格。该指数显示一个模型相对于其他模型有多贵,即使价格发生变化也依然易于解读。

参与对比的模型

OpenAI、Anthropic、Google 和 Amazon 均未公布其小型模型的规模。本文中的“小型”是指:某一模型系列中当前最便宜的档位,专为速度和大批量处理而设计。

  • OpenAI 的 GPT-6 Luna,自 2026 年 9 月 22 日起可用:GPT-6 系列中最小的档位,同系列还有 Sol 和 Astra。据 OpenAI 称,其前代 GPT-5.6 Luna 相当于此前的 Nano 级别。可直接通过 OpenAI,或经由 Microsoft Azure 和 Amazon Bedrock 获取。
  • Anthropic 的 Claude Haiku 5.5,自 2026 年 10 月 7 日起可用:Claude Haiku 4.5 的后继型号,可通过 Claude Platform、Amazon Web Services、Google Cloud 和 Microsoft Azure 获取。
  • Google 的 Gemini 3.5 Flash-Lite,自 2026 年 7 月 21 日起可用:当前最小的 Gemini 档位。作为参照,本文同时列出高一档的 Gemini 3.8 Flash。
  • Amazon Nova 2 Lite 和 Amazon Nova Micro,均仅在 Amazon Bedrock 上提供:Nova 2 Lite 自 2025 年 12 月起可用,纯文本模型 Nova Micro 自 2024 年 12 月起可用。
  • 中国模型:DeepSeek V4.1 Flash、Alibaba 的 Qwen3.8 Flash、Z.ai 的 GLM-5.3-Flash 以及 MiniMax M3.1 Flash。Moonshot AI 的 Kimi K2.6 价格高出数倍,在实践测试中作为对照。

成本对比:成本指数

成本指数按各供应商的标价对标准任务进行计价,成本等级则对其进行粗略归纳。

模型成本指数 , 越低越好成本等级 , 越低越好长提示词加价
Amazon Nova Micro241无已知加价
GPT-6 Luna762超过 272,000 token:输入 ×2,输出 ×1.5
Claude Haiku 5.5762超过 100,000 token:输入 ×5,输出 ×5
Qwen3.8 Flash942无已知加价
GLM-5.3-Flash972无已知加价
MiniMax M3.1 Flash1032无已知加价
DeepSeek V4.1 Flash2073无
Gemini 3.5 Flash-Lite2973无
Amazon Nova 2 Lite2973无已知加价
Gemini 3.8 Flash5694无,自 2027年1月1日 起基础价格翻倍
Claude Sonnet 5.5 (作为对照)1,5175无
Claude Opus 5.5 (作为对照)3,0345无

Amazon Nova Micro 的成本为中位数的四分之一,GPT-6 Luna 和 Claude Haiku 5.5 约为四分之三,Gemini 3.8 Flash 接近六倍。大型模型 Claude Sonnet 5.5 和 Claude Opus 5.5 则为 15 至 30 倍。

Claude Haiku 5.5 的价格跳升

对于 Claude Haiku 5.5,每一次请求的长度决定适用哪档价格。提示词达到 100,000 token 起,整个请求按五倍计费。缓存的提示词部分也计入长度。因此,把全部订单存量装进单个提示词,就要支付高价档;把它拆分成低于 100,000 token 的若干段,则支付低价档。GPT-6 Luna 在 272,000 token 处有类似的阈值,但加价较小。Gemini Flash 和 Flash-Lite 没有这样的阈值,4.6 代及以后的较大 Claude 模型也没有。

按提示词长度划分的每 token 价格倍数Claude Haiku 5.5 从 100,000 token 起价格变为五倍,GPT-6 Luna 从 272,000 token 起变为两倍,Gemini 保持基础价格。
  • Gemini Flash 和 Flash-Lite
  • GPT-6 Luna
  • Claude Haiku 5.5

相对输入基础价格的价格倍数 ↓

按提示词长度划分的每 token 价格倍数Claude Haiku 5.5 从 100,000 token 起价格变为五倍,GPT-6 Luna 从 272,000 token 起变为两倍,Gemini 保持基础价格。0100,000200,000300,000400,000500,000×1×2×3×4×5Gemini Flash 和 Flash-Lite ×1Gemini Flash 和 Flash-Lite ×1GPT-6 Luna ×2GPT-6 Luna ×2Claude Haiku 5.5 ×5Claude Haiku 5.5 ×5按提示词长度划分的每 token 价格倍数Claude Haiku 5.5 从 100,000 token 起价格变为五倍,GPT-6 Luna 从 272,000 token 起变为两倍,Gemini 保持基础价格。0100,000300,000500,000×1×2×3×4×5Gemini Flash 和 Flash-Lite ×1Gemini Flash 和 Flash-Lite ×1GPT-6 Luna ×2GPT-6 Luna ×2Claude Haiku 5.5 ×5Claude Haiku 5.5 ×5

提示词长度(token)

加价均适用于整个请求。GPT-6 Luna 的输出价格升至 1.5 倍。来源:OpenAI, Anthropic, Google,截至 2026年10月20日。

图表数据
模型长提示词加价
GPT-6 Luna超过 272,000 token:输入 ×2,输出 ×1.5
Claude Haiku 5.5超过 100,000 token:输入 ×5,输出 ×5
Gemini 3.5 Flash-Lite无
Gemini 3.8 Flash无,自 2027年1月1日 起基础价格翻倍
Amazon Nova 2 Lite无已知加价
Amazon Nova Micro无已知加价
DeepSeek V4.1 Flash无
Qwen3.8 Flash无已知加价
GLM-5.3-Flash无已知加价
MiniMax M3.1 Flash无已知加价

各云平台价格相同,数据驻留需加价

在各大云平台之间,价格相差不大。采用全球处理时,GPT-6 Luna 在 Microsoft Azure 和 Amazon Bedrock 上的价格与直接从 OpenAI 购买相同。Microsoft Foundry 按 Anthropic 的标价对 Claude 模型计费。Amazon Bedrock 和 Google Cloud 有各自的价目表,Anthropic 指出,这两个平台的区域端点比全球端点贵 10%。费用增加主要来自在固定区域内处理:GPT-6 Luna 在 Azure 的 EU 数据区域约贵 20%,Gemini 在 Google Cloud 的 EU 多区域约贵 10%,Nova 2 Lite 经由法兰克福的 EU 路由比在美国全球处理约贵 40%。

其他节省或增加费用的因素

  • 批处理:如果不需要立即获得结果,在 OpenAI、Anthropic、Google 和 Amazon 采用批处理方式只需支付一半费用。DeepSeek 在其高峰时段以外将价格减半,但工作日的高峰时段覆盖了德国上午的大部分时间。
  • 缓存:指令、类别和示例等重复出现的提示词部分可以缓存。从缓存读取时,这部分在 OpenAI、Anthropic 和 Google 约为输入价格的十分之一,在 Amazon Nova 为四分之一。
  • token 并非处处一样大:对于同一段文本,Claude Haiku 5.5 计出的 token 比其前代多约 30%。因此,每 token 价格相同,并不意味着每封邮件的成本完全相同。
  • 模型更替:Google 于 2026 年 10 月 8 日宣布弃用 Gemini 3.7 Flash,距其正式发布不到八周,并将请求转至 Gemini 3.8 Flash。后者的价格将于 2027 年 1 月 1 日翻倍。因此,价格和模型版本应纳入每一项运营规划。

思考 token:看不见的成本驱动因素

几乎所有当前的小型模型都能在回答之前进行思考。这些思考 token 不会出现在回答中,但会按输出计费,而输出价格视模型不同,是输入价格的三到八倍。模型思考多少,通常可以设置:

  • GPT-6 Luna:从 none 到 max,默认 medium
  • Claude Haiku 5.5:从 low 到 max,默认 medium
  • Gemini 3.5 Flash-Lite:从 minimal 到 high,默认 minimal
  • Amazon Nova 2 Lite:关闭,或从 low 到 high,默认关闭
  • DeepSeek V4.1 Flash:可开启或关闭思考,默认开启
  • GLM-5.3-Flash:思考无法关闭

差异相当大。跑完 Artificial Analysis 的完整基准测试集,GPT-6 Luna 在最高等级下的花费是不思考时的六倍多,Claude Haiku 5.5 在最高等级下的花费接近低等级时的十倍。在我们的实践测试中,Kimi K2.6 完成相同任务生成了 3,100 至 7,300 个输出 token,而 Gemini 3.7 Flash 则为 360 至 580 个。等待时间也随之增加:GPT-6 Luna 不思考时约 0.8 秒返回第一个回答 token,在最高等级下约需 90 秒。

对于分类和信息抽取,最低等级通常就已足够。Google 明确建议,Gemini 3.5 Flash-Lite 在分类、路由和 JSON 抽取时使用 minimal,而对于需要多步骤使用工具的子智能体则使用 medium 或 high,否则模型会过早中断工具链。要找到合适的设置,最可靠的办法是用自己的数据进行测试。

性价比分布图更多思考能提高质量,但成本会成倍增加。左上方是花费少、质量高的模型。
  • GPT-6 Luna
  • Claude Haiku 5.5
  • 其他小型模型

Intelligence Index ↑

性价比分布图更多思考能提高质量,但成本会成倍增加。左上方是花费少、质量高的模型。 GPT-6 Luna (none) 6.0 / 18.5; GPT-6 Luna (max) 38 / 38.1; Claude Haiku 5.5 (low) 11 / 29.5; Claude Haiku 5.5 (max) 104 / 43.4; Gemini 3.5 Flash-Lite 115 / 22.2; Gemini 3.8 Flash 510 / 40.9; DeepSeek V4.1 Flash 140 / 45.1; Qwen3.8 Flash 114 / 39.8; GLM-5.3-Flash 96 / 41.8; MiniMax M3.1 Flash 89 / 42.710301003001,00001020304050GPT-6 Luna (none): 测试运行的成本指数 6.0, Intelligence Index 18.5GPT-6 Luna (max): 测试运行的成本指数 38, Intelligence Index 38.1Claude Haiku 5.5 (low): 测试运行的成本指数 11, Intelligence Index 29.5Claude Haiku 5.5 (max): 测试运行的成本指数 104, Intelligence Index 43.4Gemini 3.5 Flash-Lite: 测试运行的成本指数 115, Intelligence Index 22.2Gemini 3.8 Flash: 测试运行的成本指数 510, Intelligence Index 40.9DeepSeek V4.1 Flash: 测试运行的成本指数 140, Intelligence Index 45.1Qwen3.8 Flash: 测试运行的成本指数 114, Intelligence Index 39.8GLM-5.3-Flash: 测试运行的成本指数 96, Intelligence Index 41.8MiniMax M3.1 Flash: 测试运行的成本指数 89, Intelligence Index 42.7DeepSeek V4.1 FlashMiniMax M3.1 FlashGLM-5.3-FlashnonemaxlowmaxGemini 3.5 Flash-LiteGemini 3.8 FlashQwen3.8 Flash性价比分布图更多思考能提高质量,但成本会成倍增加。左上方是花费少、质量高的模型。 GPT-6 Luna (none) 6.0 / 18.5; GPT-6 Luna (max) 38 / 38.1; Claude Haiku 5.5 (low) 11 / 29.5; Claude Haiku 5.5 (max) 104 / 43.4; Gemini 3.5 Flash-Lite 115 / 22.2; Gemini 3.8 Flash 510 / 40.9; DeepSeek V4.1 Flash 140 / 45.1; Qwen3.8 Flash 114 / 39.8; GLM-5.3-Flash 96 / 41.8; MiniMax M3.1 Flash 89 / 42.710301003001,00001020304050GPT-6 Luna (none): 测试运行的成本指数 6.0, Intelligence Index 18.5GPT-6 Luna (max): 测试运行的成本指数 38, Intelligence Index 38.1Claude Haiku 5.5 (low): 测试运行的成本指数 11, Intelligence Index 29.5Claude Haiku 5.5 (max): 测试运行的成本指数 104, Intelligence Index 43.4Gemini 3.5 Flash-Lite: 测试运行的成本指数 115, Intelligence Index 22.2Gemini 3.8 Flash: 测试运行的成本指数 510, Intelligence Index 40.9DeepSeek V4.1 Flash: 测试运行的成本指数 140, Intelligence Index 45.1Qwen3.8 Flash: 测试运行的成本指数 114, Intelligence Index 39.8GLM-5.3-Flash: 测试运行的成本指数 96, Intelligence Index 41.8MiniMax M3.1 Flash: 测试运行的成本指数 89, Intelligence Index 42.7DeepSeek V4.1 FlashMiniMax M3.1 FlashGLM-5.3-FlashnonemaxlowmaxGemini 3.5 Flash-LiteGemini 3.8 FlashQwen3.8 Flash

完整测试运行的成本指数,对数刻度 ↓

连线连接同一模型测得的最低和最高思考等级。成本指数包含实际消耗的思考 token。图中各点的中位数 = 100。Amazon Nova 没有测试运行成本的数据。来源:Artificial Analysis,截至 2026年10月20日。

图表数据
模型思考等级测试运行的成本指数 , 越低越好Intelligence Index , 越高越好
GPT-6 Lunanone6.018.5
Claude Haiku 5.5low1129.5
GPT-6 Lunamax3838.1
MiniMax M3.1 Flashdefault8942.7
GLM-5.3-Flashmax9641.8
Claude Haiku 5.5max10443.4
Qwen3.8 Flashdefault11439.8
Gemini 3.5 Flash-Litedefault11522.2
DeepSeek V4.1 Flashmax14045.1
Gemini 3.8 Flashhigh51040.9

幻觉:知识问答还是依据材料工作

模型产生幻觉的程度取决于任务。需要区分两个问题:模型在不知道答案时会不会去猜?它是否忠实于随任务一起提供给它的信息?

没有来源的知识问答

Artificial Analysis 通过 AA-Omniscience 衡量模型在回答专业问题时,有多频繁地给出错误答案,而不是承认自己不知道。幻觉率是指在所有未答对的问题中,错误回答所占的比例。数值越低越好。

模型回答正确(%) , 越高越好幻觉率(%) , 越低越好
GLM-5.3-Flash2828
Gemini 3.5 Flash-Lite3034
Claude Haiku 5.533 至 3640 至 45
Qwen3.8 Flash2545
Gemini 3.8 Flash5555
Amazon Nova Micro1065
DeepSeek V4.1 Flash4367
GPT-6 Luna32 至 4477 至 85
Amazon Nova 2 Lite14 至 1986 至 91
MiniMax M3.1 Flash5693
知识问答中的幻觉率GLM-5.3-Flash、Gemini 3.5 Flash-Lite 和 Claude Haiku 5.5 最常承认自己不知道答案。
知识问答中的幻觉率GLM-5.3-Flash、Gemini 3.5 Flash-Lite 和 Claude Haiku 5.5 最常承认自己不知道答案。 GLM-5.3-Flash: 28%; Gemini 3.5 Flash-Lite: 34%; Claude Haiku 5.5: 40–45%; Qwen3.8 Flash: 45%; Gemini 3.8 Flash: 55%; Amazon Nova Micro: 65%; DeepSeek V4.1 Flash: 67%; GPT-6 Luna: 77–85%; Amazon Nova 2 Lite: 86–91%; MiniMax M3.1 Flash: 93%0255075100GLM-5.3-FlashGLM-5.3-Flash: 28%28%Gemini 3.5 Flash-LiteGemini 3.5 Flash-Lite: 34%34%Claude Haiku 5.5Claude Haiku 5.5: 40–45%40–45%Qwen3.8 FlashQwen3.8 Flash: 45%45%Gemini 3.8 FlashGemini 3.8 Flash: 55%55%Amazon Nova MicroAmazon Nova Micro: 65%65%DeepSeek V4.1 FlashDeepSeek V4.1 Flash: 67%67%GPT-6 LunaGPT-6 Luna: 77–85%77–85%Amazon Nova 2 LiteAmazon Nova 2 Lite: 86–91%86–91%MiniMax M3.1 FlashMiniMax M3.1 Flash: 93%93%知识问答中的幻觉率GLM-5.3-Flash、Gemini 3.5 Flash-Lite 和 Claude Haiku 5.5 最常承认自己不知道答案。 GLM-5.3-Flash: 28%; Gemini 3.5 Flash-Lite: 34%; Claude Haiku 5.5: 40–45%; Qwen3.8 Flash: 45%; Gemini 3.8 Flash: 55%; Amazon Nova Micro: 65%; DeepSeek V4.1 Flash: 67%; GPT-6 Luna: 77–85%; Amazon Nova 2 Lite: 86–91%; MiniMax M3.1 Flash: 93%0255075100GLM-5.3-FlashGLM-5.3-Flash: 28%28%Gemini 3.5 Flash-LiteGemini 3.5 Flash-Lite: 34%34%Claude Haiku 5.5Claude Haiku 5.5: 40–45%40–45%Qwen3.8 FlashQwen3.8 Flash: 45%45%Gemini 3.8 FlashGemini 3.8 Flash: 55%55%Amazon Nova MicroAmazon Nova Micro: 65%65%DeepSeek V4.1 FlashDeepSeek V4.1 Flash: 67%67%GPT-6 LunaGPT-6 Luna: 77–85%77–85%Amazon Nova 2 LiteAmazon Nova 2 Lite: 86–91%86–91%MiniMax M3.1 FlashMiniMax M3.1 Flash: 93%93%

幻觉率(%) ↓

在所有未答对的问题中,错误回答所占的比例(AA-Omniscience)。条形中颜色较浅的部分表示不同思考等级之间的区间。来源:Artificial Analysis, AA-Omniscience,截至 2026年10月20日。

GLM-5.3-Flash、Gemini 3.5 Flash-Lite 和 Claude Haiku 5.5 相对较常承认自己不知道答案。相比之下,GPT-6 Luna、Nova 2 Lite 和 MiniMax M3.1 Flash 大多会去猜。MiniMax 虽然答对的问题最多,但在其余问题上几乎总是给出编造的错误答案。

基于随附数据开展工作

对于例行工作,通常更重要的是第二个问题,因为邮件、订单或工单就摆在模型面前。这时情况就不同了。Google DeepMind 的 FACTS 排行榜中有一项 Grounding 测试,检查回答是否有随附文档作为依据:GPT-6 Luna 获得 81 分(满分 100 分),Gemini 3.8 Flash 获得 73 分,Gemini 3.5 Flash-Lite 获得 71 分。这一排行榜由 Google 自己运营,其中没有其他供应商的模型。在 Vectara 的摘要测试中,Amazon Nova 2 Lite 和 Nova Micro 只在约 5% 的摘要中添加了原文没有的内容,尽管它们在知识问答中特别常去猜。Kimi K2.6 在该测试中约为 11%,本文对比中的其他当前模型尚未经过测量。

因此,小型模型应依据提供的材料工作,而不是凭记忆作答。如果随任务提供数据、明确允许模型回答“未知”或 null,并按固定的 Schema 进行校验,就能很好地限制编造信息的风险。在我们的实践测试中,没有任何模型编造缺失的信息。

工具使用:跨多个步骤调用工具

对于智能体而言,关键在于模型能否跨多个步骤正确调用工具。针对当前小型模型的独立测量仍不完整。Artificial Analysis 用 AutomationBench-AA 测试模型能否在邮件、表格、CRM 和工单系统等多个模拟应用中完成贴近现实的业务流程,用 Terminal-Bench 4.0 测试在命令行中的工作。测量大多在高或最高思考等级下进行,数值为已解决任务的百分比。

模型AutomationBench-AA(%) , 越高越好Terminal-Bench 4.0(%) , 越高越好
MiniMax M3.1 Flash7326
DeepSeek V4.1 Flash6734
GLM-5.3-Flash6033
Gemini 3.8 Flash6020
Qwen3.8 Flash5625
GPT-6 Luna5313
Claude Haiku 5.53533
Gemini 3.5 Flash-Lite251
Amazon Nova 2 Lite未测量未测量
使用工具的业务流程中国的 Flash 模型和 Gemini 3.8 Flash 完成的多步骤流程最多。
使用工具的业务流程中国的 Flash 模型和 Gemini 3.8 Flash 完成的多步骤流程最多。 MiniMax M3.1 Flash: 73%; DeepSeek V4.1 Flash: 67%; GLM-5.3-Flash: 60%; Gemini 3.8 Flash: 60%; Qwen3.8 Flash: 56%; GPT-6 Luna: 53%; Claude Haiku 5.5: 35%; Gemini 3.5 Flash-Lite: 25%; Amazon Nova 2 Lite: 未测量0255075100MiniMax M3.1 FlashMiniMax M3.1 Flash: 73%73%DeepSeek V4.1 FlashDeepSeek V4.1 Flash: 67%67%GLM-5.3-FlashGLM-5.3-Flash: 60%60%Gemini 3.8 FlashGemini 3.8 Flash: 60%60%Qwen3.8 FlashQwen3.8 Flash: 56%56%GPT-6 LunaGPT-6 Luna: 53%53%Claude Haiku 5.5Claude Haiku 5.5: 35%35%Gemini 3.5 Flash-LiteGemini 3.5 Flash-Lite: 25%25%Amazon Nova 2 Lite未测量使用工具的业务流程中国的 Flash 模型和 Gemini 3.8 Flash 完成的多步骤流程最多。 MiniMax M3.1 Flash: 73%; DeepSeek V4.1 Flash: 67%; GLM-5.3-Flash: 60%; Gemini 3.8 Flash: 60%; Qwen3.8 Flash: 56%; GPT-6 Luna: 53%; Claude Haiku 5.5: 35%; Gemini 3.5 Flash-Lite: 25%; Amazon Nova 2 Lite: 未测量0255075100MiniMax M3.1 FlashMiniMax M3.1 Flash: 73%73%DeepSeek V4.1 FlashDeepSeek V4.1 Flash: 67%67%GLM-5.3-FlashGLM-5.3-Flash: 60%60%Gemini 3.8 FlashGemini 3.8 Flash: 60%60%Qwen3.8 FlashQwen3.8 Flash: 56%56%GPT-6 LunaGPT-6 Luna: 53%53%Claude Haiku 5.5Claude Haiku 5.5: 35%35%Gemini 3.5 Flash-LiteGemini 3.5 Flash-Lite: 25%25%Amazon Nova 2 Lite未测量

AutomationBench-AA,已解决任务(%) ↑

在邮件、表格、CRM 和工单系统等多个模拟应用中完成贴近现实的流程,测量大多在高或最高思考等级下进行。Amazon Nova 2 Lite 未经测量。来源:Artificial Analysis, AutomationBench-AA,截至 2026年10月20日。

厂商公布的数据可作补充。Anthropic 公布,在屏幕操作测试 OSWorld 2.1 中,Claude Haiku 5.5 约为 72%,GPT-6 Luna 约为 49%。Amazon 称 Nova 2 Lite 在 Berkeley Function Calling Leaderboard 中达到 60%,而该排行榜本身列出的是 27%,多步骤调用仅为 2%。中国的 Flash 模型能很好地完成工具任务,但为此要消耗大量思考 token。给开发者的一个技术细节:GPT-6 Luna 的带思考工具调用只能通过 Responses API 实现,通过 Chat Completions 则只能在不思考的情况下调用工具。

JSON 与分类

在例行工作中,模型应以固定格式作答。多家供应商在生成回答时就强制遵循 JSON Schema:

  • GPT-6 Luna:据 OpenAI 称,使用严格的 JSON Schema 时,回答始终符合该 Schema,拒绝回答或回答被截断的情况除外。
  • Claude Haiku 5.5:Structured Outputs 同样强制遵循 Schema,在 Amazon Bedrock 上通过 bedrock-runtime 端点实现。
  • Gemini 3.5 Flash-Lite 和 3.8 Flash:支持 JSON Schema,但 Google 建议始终检查各项值。非常大的 Schema 可能会被拒绝。
  • Amazon Nova 2 Lite 和 Nova Micro:Bedrock 的 Structured Outputs 功能不可用。变通办法是使用最多两层的工具 Schema。
  • DeepSeek、Qwen 和 GLM:据供应商称支持 JSON 输出。MiniMax M3.1 Flash 没有相关说明。

符合 Schema 并不保证值正确。对于分类,目前没有针对当前小型模型的独立对比测试。准确率在很大程度上取决于企业自己的类别,只能用自己的示例来衡量。

在 Hawk IVO Force 中的实践测试

2026 年 10 月 20 日,我们在 Hawk IVO Force 中用两项典型的例行任务测试了四个模型。每个模型在各自独立的智能体中运行,不访问知识、不使用工具,并使用相同的简短指令。每项任务运行两次。

  • 邮件分拣:一家制造企业的 12 封德语邮件,其中包括一封投诉、两封钓鱼邮件、一封外出自动回复和若干自动状态通知。要求给出类别、优先级、是否需要回复,以及订单号(仅当原文中逐字出现时)。商品编号、发票号和工单号被用作陷阱。评估的是类别、回复需求和订单号,共 72 个值。
  • 生产订单:来自 ERP 导出的四个订单和一条生产准备部门的备注。要求以 JSON 形式给出各字段、风险和理由。有四项信息被故意省略,其中包括一个交货日期、一台机器和一项以小时计的产能。其中一个订单无法按时完成,因为物料要到交货日期之后才到货。
模型 邮件分拣 生产订单 每次运行的输出 token ↓
GPT-6 Luna 无错误 无错误 760 至 1,330
Gemini 3.7 Flash 无错误 无错误,有一次写成“Gehaeuse”而非“Gehäuse”(德语“外壳”,缺少变音符号) 360 至 580
Kimi K2.6 无错误 有一次违反 Schema,未评估风险 3,100 至 7,300
GPT-4.1 mini(较早一代) 72 个值中有 7 个错误 无错误 300 至 480

GPT-4.1 mini 本会回复两封钓鱼邮件,并把发票号和工单号当作订单号。当前一代模型已不再犯这些错误。Kimi K2.6 在一次运行中把“将缺失信息设为 null”的指令也套用到了风险评估上。按标价计算,测试中每封邮件的成本,Gemini Flash 约为 GPT-6 Luna 的五倍,Kimi K2.6 因思考 token 较多,约为三十倍。

本测试是只运行两轮的抽样,并非基准测试。Claude Haiku 5.5 和 Amazon Nova 在我们的测试环境中不可用。Gemini 3.7 Flash 现已被宣布弃用,Google 会将请求转至 Gemini 3.8 Flash。

例行工作每月的成本

以下是四个典型应用场景及其假设:

  • 办公室:每个工作日 80 封邮件,共 22 个工作日,其中包括状态通知。每封邮件输入 3,000 token,用于指令、类别、示例以及带往来记录的邮件本身;输出 500 token,用于归类和一份简短的回复草稿。
  • 生产:500 个未完成的生产订单,在三个班次中每班重新评估一次,共 30 天。每次评估输入 4,000 token,用于订单、工艺路线、物料和产能;输出 600 token,用于风险、瓶颈和建议。
  • 网站:每天 1,500 次访问,由一个智能体观察操作、进行归类并给出建议。每次访问六次归类和一条建议,合计输入 16,000 token、输出 1,000 token。
  • 持续任务:一个智能体全天候每五分钟检查一次状态,例如工单接收、机器消息或交付状态。每次检查输入 5,000 token、输出 300 token。

成本规模表示一个应用场景每月产生的模型成本相当于办公室场景的多少倍,以小型模型的中位数为准:

应用场景每月处理次数每次处理的 token,输入 / 输出成本规模,办公室 = 1 , 越低越好
办公室1,7603,000 / 500×1
生产45,0004,000 / 600×33
网站45,00016,000 / 1,000×104
持续任务8,6405,000 / 300×6

每天 80 封邮件时,模型成本几乎无关紧要,即使使用 Claude Opus 5.5 这样的大型模型也是如此。在这里,代价高昂的是错误,例如漏看的投诉或被回复的钓鱼邮件。因此,可靠性比价格更重要。而在生产、网站和持续任务中,数量增长很快。此时,小型模型与大型模型之间相差 20 到 40 倍,GPT-6 Luna 与 Gemini 3.8 Flash 之间约相差 7 倍。更多的思考 token 会提高输出成本。缓存能降低输入成本,在网站场景中尤其如此,因为每次请求的页面上下文都保持不变。

把全部订单存量放进单个提示词是最昂贵的方案。使用 Claude Haiku 5.5 时,一次 300,000 token 的请求,成本是把同样数量拆分成阈值以下若干段时的五倍。与此同时,上下文很长时命中率会下降:据 Google 称,Gemini 3.5 Flash-Lite 在长上下文测试 MRCR 中,128,000 token 时达到 72%,100 万 token 时为 21%。更好的做法是按单个订单或按订单组进行评估。

小型模型作为子智能体

小型模型特别适合作为子智能体。由一个较大的模型规划任务、拆分任务,并把界定清晰的子任务交给小型模型,例如阅读文档、读取数据、归类条目或汇总搜索结果。每个子智能体都在一个小而全新的上下文中工作,并返回简洁的结果,由较大的模型审核并加以整合。Anthropic 明确将 Claude Haiku 5.5 定位于这一角色。

这在多个方面带来回报:

  • 成本:Claude Haiku 5.5 每个输入 token 的价格是 Claude Opus 5.5 的四十分之一。恰恰是消耗 token 最多的阅读环节,因此变得便宜。
  • 速度:多个子智能体并行工作。
  • 清晰:负责规划的模型只看到浓缩后的结果,而不是成千上万页的原始材料。
  • 价格阈值:较小的子任务不会超过 Claude Haiku 5.5 的 100,000 token 阈值。

要做到这一点,每项子任务都需要固定的输出格式,最好是 JSON Schema。子智能体只获得其子任务所需的数据和工具。多步骤的工具工作适合中等思考等级,单纯的归类则适合最低等级。在已对接的系统中做出任何变更之前,由负责规划的模型或由人审核结果,详见引入带审批的智能体一文。

在 Hawk IVO Force 中,模型是每个智能体各自的一项设置。因此,负责规划和协调的智能体可以使用大型模型,而负责分拣、信息抽取或监控的智能体则使用小型模型。

中国模型:价格低廉、开放,但有数据保护问题

中国的 Flash 模型价格低廉,能很好地完成工具任务。在所有对比模型中,GLM-5.3-Flash 凭猜测作答的情况最少。DeepSeek V4.1 Flash 和 GLM-5.3-Flash 以 MIT 许可证提供开放权重,Qwen3.8 有多个开放版本。对德国企业而言,最重要的是数据在哪里处理:

  • 根据 DeepSeek 的隐私政策,其自有 API 的数据在中国处理和存储。DeepSeek V4.1 Flash 也可在 Microsoft Azure 的 EU 数据区域使用,价格比全球价格高约 20%。
  • Alibaba 在法兰克福提供两种适用范围。只有 EU 范围能将处理保留在该区域内,而 Qwen3.8 Flash 目前在那里只列于全球范围。
  • 据 Z.ai 自己的说明,其数据通常在新加坡处理;MiniMax 则将数据存储在美国。
  • 开放权重可以自行运行。DeepSeek 和 GLM 有数千亿参数,自行运行的投入很大。更现实的选择是采用 Apache-2.0 许可证的较小模型 Qwen3.8-27B。

美国机构 NIST 研究了较早版本的 DeepSeek 和 Kimi,发现其与中国共产党的立场相近,并且更容易受到操纵。这些特性存在于模型本身,自行运行时也依然存在。目前尚无针对当前版本的此类评估。在归入固定类别的任务中,这一点的影响可能小于自由撰写的文本。GLM-5.3-Flash 的模型卡没有提到德语,因此用德语文本进行测试尤为重要。

哪种任务适合哪个模型

根据价格、测量值和实践测试,可得出以下评估:

  • 邮件分拣和固定类别的分类:使用低思考等级的 GPT-6 Luna 或 Claude Haiku 5.5。两者价格同样低廉。GPT-6 Luna 在实践测试和 Grounding 测试中都紧扣所提供的材料,Claude Haiku 5.5 在知识空白时较少猜测。
  • 生产订单审核和文档信息抽取:使用同样的模型,按单个订单或订单组评估,而不是使用很长的提示词,并配合 JSON Schema 且允许返回 null。
  • 需要实时响应的网站智能体:选择不思考或思考极少的模型,例如约 0.8 秒返回第一个 token 的 GPT-6 Luna,或在不思考时约 1.1 秒返回的 Nova 2 Lite。在 Artificial Analysis 的测量中,Gemini 3.5 Flash-Lite 约需 8 秒才返回第一个 token。
  • 持续任务和使用工具的子智能体:多步骤业务流程选择 Gemini 3.8 Flash、GLM-5.3-Flash 或 DeepSeek V4.1 Flash,命令行和屏幕操作选择 Claude Haiku 5.5,均使用中等思考等级。
  • 海量的极简单文本:Amazon Nova Micro 的成本指数为 24,是本次对比中最便宜的模型,但知识有限,最多只能处理 128,000 token。它只适合在使用固定 Schema 并经过自行测试后采用。
  • 个人数据:选择在欧盟境内处理,例如 Azure 的 EU 数据区域、Google Cloud 的 EU 多区域或 Amazon Bedrock 的 EU 路由,并为此预留 10% 至约 40% 的加价。

做决定之前先用自己的数据测试

在这个市场中,模型版本和价格每隔几周就会变化。在做出决定之前,值得用 50 到 100 个自己的示例做一次简短测试。它能显示准确率、格式遵循情况,以及每个事项实际消耗的 token。我们可以帮助您界定合适的任务、用您的数据比较各个模型,并在 Hawk IVO Force 中搭建智能体。如果您已有这样的任务,欢迎与我们联系。

标价与计算方法

标价与计算方法(截至 2026年10月20日)

各供应商在标准计费方案下全球处理的公开标价,以每百万 token 的美元金额计。这些不是 Hawk IVO Force 的价格。价格变动频繁,以所链接的各供应商价格页面为准。

标价,以每百万 token 的美元金额计
模型输入输出长提示词加价
GPT-6 Luna0.100.50超过 272,000 token:输入 ×2,输出 ×1.5
Claude Haiku 5.50.100.50超过 100,000 token:输入 ×5,输出 ×5
Gemini 3.5 Flash-Lite0.302.50无
Gemini 3.8 Flash0.753.75无,自 2027年1月1日 起基础价格翻倍
Amazon Nova 2 Lite0.302.50无已知加价
Amazon Nova Micro0.0350.14无已知加价
DeepSeek V4.1 Flash0.301.20无
Qwen3.8 Flash0.150.47无已知加价
GLM-5.3-Flash0.150.50无已知加价
MiniMax M3.1 Flash0.150.60无已知加价
Claude Sonnet 5.5 (作为对照)2.0010.00无
Claude Opus 5.5 (作为对照)4.0020.00无

采用全球处理时,这些模型在 Microsoft Azure、Amazon Bedrock 和 Google Cloud 上的价格通常与直接从供应商购买相同。在固定区域内处理(例如在欧盟境内)要贵 10% 至约 40%。

本文各应用场景每月的模型成本,以美元计,已取整,未计入缓存、批处理和数据驻留
模型办公室生产网站持续任务
GPT-6 Luna0.9732956
Claude Haiku 5.50.9732956
Gemini 3.5 Flash-Lite412033019
Gemini 3.8 Flash724071042
Amazon Nova 2 Lite412033019
Amazon Nova Micro0.3110322
DeepSeek V4.1 Flash38627016
Qwen3.8 Flash1401308
GLM-5.3-Flash1411308
MiniMax M3.1 Flash1431408
Claude Sonnet 5.5 (作为对照)196301,890110
Claude Opus 5.5 (作为对照)391,2603,780220

各供应商的价格页面

来源与延伸阅读

  1. OpenAI:API 价格(GPT-6 Luna,超过 272,000 token 的加价) (在新标签页中打开)
  2. OpenAI:GPT-6 Luna 模型页面 (在新标签页中打开)
  3. Microsoft Learn:Azure 中的推理模型(思考等级、思考 token 的计费) (在新标签页中打开)
  4. Microsoft Azure:Retail Prices API(Global 与 EU 数据区域的价格) (在新标签页中打开)
  5. Amazon Web Services:Amazon Bedrock 上的 GPT-6 Luna 模型卡(全球和区域价格) (在新标签页中打开)
  6. Anthropic:价格(Claude Haiku 5.5 在 100,000 token 以内及以上、批处理、数据驻留) (在新标签页中打开)
  7. Anthropic:2026 年 10 月 7 日发布的 Claude Haiku 5.5 公告 (在新标签页中打开)
  8. Google:Gemini API 价格 (在新标签页中打开)
  9. Google:Gemini 模型弃用公告 (在新标签页中打开)
  10. Google Cloud:Gemini 3.5 Flash-Lite(思考等级、区域) (在新标签页中打开)
  11. Amazon Web Services:Amazon Bedrock 价格 (在新标签页中打开)
  12. Amazon Web Services:Amazon Nova 2 Lite 模型卡 (在新标签页中打开)
  13. DeepSeek:API 价格 (在新标签页中打开)
  14. DeepSeek:隐私政策 (在新标签页中打开)
  15. Alibaba Cloud:Model Studio(Qwen)价格 (在新标签页中打开)
  16. Z.ai:GLM-5.3-Flash 价格与模型页面 (在新标签页中打开)
  17. MiniMax:价格 (在新标签页中打开)
  18. Artificial Analysis:模型排行榜(Intelligence Index、价格、速度、测试运行成本) (在新标签页中打开)
  19. Artificial Analysis:AA-Omniscience(知识与幻觉率) (在新标签页中打开)
  20. Artificial Analysis:方法论,包括 AutomationBench-AA 和 Terminal-Bench 4.0 (在新标签页中打开)
  21. Google DeepMind 和 Kaggle:FACTS 排行榜 (在新标签页中打开)
  22. Vectara:Hallucination Leaderboard(截至 2026 年 10 月 16 日) (在新标签页中打开)
  23. UC Berkeley:Berkeley Function Calling Leaderboard (在新标签页中打开)
  24. NIST:CAISI 对 DeepSeek 模型的评估(2025 年 9 月 30 日) (在新标签页中打开)

相关产品

继续阅读

  • 智能体

    什么是 Agent Workforce?

    Agent Workforce 指在企业中承担任务的 AI 智能体。本文介绍它如何与 Human Workforce 协同工作,以及由谁做出决策。

    更新于 2026年10月18日 · 阅读约 3 分钟

  • 集成到软件

    将智能体嵌入自有软件

    软件供应商如何借助 Hawk IVO Force 将智能体、借助 Hawk IVO Scheduler 将规划功能嵌入自己的产品,以及集成时需要明确哪些问题。

    更新于 2026年10月25日 · 阅读约 5 分钟