BENCHMARK
測るもの、測らないもの
能力上限を直接測るものではない
tool calling 寄りの benchmark
怠惰な早書きを検出する
Case-driven で基準を変えられる
今は直接点数に入れていない軸
加点も減点も理由を追える
CASES
見抜けるミス
十分に把握しないまま手を動かす
誤った道だと分かっていても進む
曖昧さに論理がはまり込む
UPDATES
更新ログ
benchmark の読み方に関わる最近の変更だけを載せています。
- Grok 4.1 を削除し、Gemini 3.5 Flash と GPT 5.5 を追加しました。
- DeepSeek V4 Pro と DeepSeek V4 Flash を追加しました。
- 更新頻度を 3 時間ごとに変更し、Claude Sonnet 4.5 と Claude Opus 4.5 を削除しました。
- Claude Opus 4.7 を追加し、OpenAI GPT 4.1 と Claude Haiku 4.5 を削除し、新しい
search_textツールを加え、難易度も引き上げました。 - Google の Gemma 4 31B と Xiaomi の Mimo v2 Pro の 2 モデルを追加しました。
- 満点を取るモデルが増えたため、難易度を引き上げました。
- LLMSnare のライブ benchmark を開始しました。