实验室张嘉昊同学一作论文获NeurIPS 2026录用。NeurIPS是CCF A类顶会。
论文针对大语言模型(LLM)成对评估中判断冲突频发的痛点,提出BayesJudge—— 一种在线贝叶斯元评估框架,用于处理人机混合评估流中的分歧结果。 该框架基于贝叶斯推理,可针对每组成对回复估计群体维度的后验判定分布(兼容平局 / 歧义状态),同时估算评估者个体的混淆矩阵与 LLM 的呈现顺序偏差;通过 “允许平局” 的标注保留评估歧义,借助顺序互换的成对判定分离回复质量与呈现顺序效应,并采用可扩展的 Rao-Blackwell 化序贯蒙特卡洛方法实现流式在线推理。
Jiahao Zhang, Pengbin Feng, Chunlei Meng, Hang He, Tianyong Hao*. BayesJudge: Uncertainty-Aware Bayesian Meta-Evaluation of Human and LLM Judgments. NeurIPS 2026 Evaluation and Datasets Track, accepted in Set. 2026 (CCF-A).
张嘉昊是实验室研究生,该论文是第2篇CCF-A/B类论文。
学者网

评论 0