LMSYS Org推出的大模型竞技场Chatbot Arena，已成为海外最具公信力的大模型榜单之一，但该榜单中文明水平相对无余。近日，上海人工智能试验室联结魔搭社区推出中国大言语模型评测竞技场Compass Arena，首度集齐国际干流大模型全阵容，阿里通义千问、百度文心一言、腾讯混元、讯飞星火、字节跳动豆包、智谱AI、百川智能、零一万物、月之暗面、Minimax、深度求索、书生·浦语等20款国产大模型出战，角逐中国大模型“最强王者”。
相比考题固定的传统测评，大模型竞技场驳回盲测、放开的测评形式，可以更片面地测验模型实力。Compass Arena设置了随机、匿名对战，大模型选手们成为“蒙面唱将”，模型信息隐去后，由系统随机婚配启动PK，用户可以天马行空自在出题，并作为评委客观评判和投票。假设大模型不小心“自报家门”，则对话被过滤，不计入效果。经过不可胜数轮PK应战和用户投票，系统将对大模型启动智能排名。
魔搭社区直播时，网友脑洞大开在线出题
Compass Arena由上海人工智能试验室OpenCompass司南评测体系与魔搭社区联结树立，前者担任组织评测，后者担任开源模型引入及社区打造 。据上海人工智能试验室OpenCompass团队介 绍，Compass Arena力图表现社区用户的实在反应，评测机制自创Chatbot Arena，驳回Elo评分系统，即国际象棋等对弈优惠评价的威望规范。在这种形式下，大模型竞技相似“在游戏中打排位”，胜率成为评价模型水平的关键目的，同时随着排位变高，系统也会智能婚配高段位选手启动对战。
与Chatbot Arena相比，Compass Arena更聚焦中文大模型，干流国产大模型全笼罩，同时评测用户大多经常使用中文，可以充沛评价国产大模型的功能。
目前，Compass Arena已会聚超20款商业及社区模型，包含Qwen-Max、ERNIE-4.0-8K、Spark3.5 Max、Abab6.5、GLM4等国际头部厂商的旗舰款大模型，并引入了Llama3、Mixtral等海外标杆模型启动参照。更多模型及厂商还在始终添加中。
上线不到一周，已有上万人访问魔搭Compass Arena页面。魔搭社区示意，欢迎广阔开发者和网友介入大模型排位赛的投票，独特促成国产大模型的提高和赶超。后续，Compass Arena首期排行榜将揭晓，并将活期发布降级。