Chatbot Arena
Chatbot Arena是LMSYS推出的众包评测平台,让用户匿名对两个大模型的回答进行投票PK,通过Elo评分算法生成真实用户视角的模型排行榜,被誉为"大模型评测的奥林匹克"。
Chatbot Arena是LMSYS(Large Model Systems Organization)推出的众包大模型评测平台,模式很特别:它让真实用户匿名对比两个大模型的回答,投票选出更好的那个,再用国际象棋、电竞常用的Elo评分算法生成排行榜。
这个平台的独特价值在于,它不是靠固定题库打分,而是靠真实用户在使用中的直观感受来判断哪个模型更好。它常被研究者引用,也被称作"大模型评测的奥林匹克"。
核心功能
匿名对战:让两个大模型匿名回答同一问题,用户盲选更好的答案。
众包投票:依靠大量真实用户的投票积累评测数据。
Elo评分:采用Elo算法生成动态排行榜。
真实用户视角:反映真实使用体验,而非固定考题分数。
多模型覆盖:涵盖主流开源和闭源大模型。
使用教程
- 访问chat.lmsys.org进入Chatbot Arena。
- 参与匿名对战,选择更好的回答。
- 查看Elo排行榜,了解模型排名变化。
- 关注模型在不同类别的表现。
优点
- 反映真实用户使用体验。
- 匿名对战避免品牌偏见。
- Elo评分动态、直观。
- 社区参与广泛,数据量大。
- 常被研究机构引用,权威性高。
需要注意的地方
- 众包结果受用户偏好和投票分布影响。
- 排行榜随投票持续变化,是动态值。
- 覆盖场景偏通用对话,专业领域表现需单独评估。
适合谁用
关注大模型真实体验的用户、研究者、开发者、模型选型决策者、AI爱好者。
定价
Chatbot Arena免费参与和查看排行榜。
同类型产品对比
| 产品 | 价格/模式 | 核心特点 | 适合人群 |
|---|---|---|---|
| Chatbot Arena | 免费 | 匿名对战、Elo评分、用户视角 | 用户体验对比 |
| OpenCompass | 开源 | 一站式多维评测 | 研究者、开发团队 |
| SuperCLUE | 免费 | 中文综合评测、排名 | 中文模型选型 |
| MMLU | 开源基准 | 多任务语言理解 | 通用模型评测 |
常见问题
Chatbot Arena是什么
Chatbot Arena是LMSYS推出的众包大模型评测平台,通过匿名对战投票和Elo评分生成模型排行榜。
Chatbot Arena怎么评测模型
让两个大模型匿名回答同一问题,用户盲选更好的答案,再用Elo算法统计排名,反映真实用户使用体验。
Chatbot Arena是免费的吗
免费参与和查看排行榜。
Chatbot Arena和MMLU有什么区别
Chatbot Arena靠真实用户投票反映体验,MMLU是固定题库的知识能力测试,两者评测维度不同。
Chatbot Arena的Elo评分是什么
一种动态评分算法(源于国际象棋和电竞),根据对战结果持续调整模型分数,生成排名。
引用来源
- Chatbot Arena官网:https://chat.lmsys.org/
- Chatbot Arena介绍:https://kcool.cn/chatbot-arena





