BENCHMARK
测什么,不测什么
不直接测能力上限
偏向 tool calling 场景
会查模型是否偷懒
Case-driven,可自定义标准
这些维度当前不直接衡量
每次加减分都能解释
CASES
它能抓到的失误
还没了解清楚就动手
明知是歧路,偏要走
逻辑陷入在歧义里
UPDATES
更新日志
这里只记影响 benchmark 解读的最近变动。
- 移除 Grok 4.1;新增 Gemini 3.5 Flash 和 GPT 5.5。
- 新增 DeepSeek V4 Pro 和 DeepSeek V4 Flash。
- 把更新频率改成每 3 小时一次,并移除 Claude Sonnet 4.5 和 Claude Opus 4.5。
- 新增 Claude Opus 4.7;移除 OpenAI GPT 4.1 和 Claude Haiku 4.5;新增
search_text工具,并提升了难度。 - 新增 Google 的 Gemma 4 31B 和小米的 Mimo v2 Pro 两个模型。
- 由于太多模型拿满分,所以提升了难度。
- LLMSnare 线上 benchmark 启动。