速度
输出有多快:持续输出速度和首个 token 的等待时间,两者之间、以及和价格之间都要权衡。测的是某个服务商提供的接口,不是模型本身。
按它在多少项基准里进入前 10 排序,一样多时看最好名次。每列保持各自的排名,不做平均。
| 模型 | 进入前 10 | Artificial Analysis LLM Leaderboard Output Speed | Artificial Analysis LLM Leaderboard Time To First Token |
|---|---|---|---|
| | 2/2 | #1 1523/s | #9 0.58s |
| | 2/2 | #5 360/s | #1 0.30s |
| | 2/2 | #9 305/s | #8 0.56s |
| | 1/2 | #2 691/s | #134 3.44s |
| | 1/2 | #15 271/s | #2 0.35s |
| | 1/2 | #3 632/s | #148 7.12s |
| | 1/2 | #111 83/s | #3 0.45s |
| | 1/2 | #4 362/s | #61 1.22s |
| | 1/2 | #27 210/s | #4 0.46s |
| | 1/2 | #57 144/s | #5 0.48s |
| | 1/2 | #6 347/s | #151 9.42s |
| | 1/2 | #25 216/s | #6 0.53s |
| | 1/2 | #7 335/s | #83 1.75s |
| | 1/2 | #116 80/s | #7 0.54s |
| | 1/2 | #8 323/s | #111 2.52s |
| | 1/2 | #10 301/s | #154 15.17s |
| | 1/2 | #14 273/s | #10 0.61s |
“—”表示该榜没收录这个模型,不是零分。还没识别出具体模型的条目不在这里出现,它们仍显示在各自的原始榜单上。