速度
输出到达的快慢——持续吞吐量与首 token 时间,两者互相权衡,也与成本权衡。它是在某个供应商对该模型的服务上衡量的,所以描述的是服务端点,而非模型权重本身。
按有多少个基准把该模型排进各自的前 10 名来排序,并列时看它的最佳名次。每一列保持各自的顺序,此处不做任何平均。
| 模型 | 进入前 10 | Artificial Analysis LLM Leaderboard Output Speed | Artificial Analysis LLM Leaderboard Time To First Token |
|---|---|---|---|
| | 2/2 | #1 1573/s | #3 0.58s |
| | 1/2 | #19 196/s | #1 0.39s |
| | 1/2 | #2 924/s | #94 3.54s |
| | 1/2 | #105 27/s | #2 0.53s |
| | 1/2 | #3 407/s | #85 2.70s |
| | 1/2 | #4 407/s | #102 8.96s |
| | 1/2 | #16 204/s | #4 0.63s |
| | 1/2 | #5 394/s | #27 1.04s |
| | 1/2 | #86 58/s | #5 0.65s |
| | 1/2 | #6 346/s | #33 1.13s |
| | 1/2 | #52 114/s | #6 0.74s |
| | 1/2 | #7 339/s | #44 1.46s |
| | 1/2 | #66 86/s | #7 0.77s |
| | 1/2 | #8 326/s | #25 1.00s |
| | 1/2 | #53 112/s | #8 0.77s |
| | 1/2 | #9 314/s | #24 0.96s |
| | 1/2 | #41 133/s | #9 0.79s |
| | 1/2 | #10 273/s | #21 0.90s |
| | 1/2 | #59 104/s | #10 0.79s |
破折号表示该数据源未收录这个模型,而不是它得了零分。模型名录中没有条目的模型不在此处出现,因为它们无法跨数据源对齐——它们仍会显示在各自数据源的看板上,并带有标记。