Yila
文献综述样本返回文献综述

大语言模型评测方法、能力边界与可靠性挑战

Author: yila.ai

摘要

大语言模型(LLM)的能力跃迁与社会化部署,对评测体系提出了从单点准确率到多维可信评估的范式转型需求。本文系统综述了LLM评测方法的最新进展,围绕"评测什么、在何处评测、如何评测"三个核心问题构建分类框架,从能力边界评估(推理、专业知识、指令遵循)、可靠性挑战(幻觉、偏见、一致性)和评测基准方法论反思三个层层递进的维度展开分析。证据综合表明:LLM在标准化基准上的成绩持续攀升,推理能力可通过强化学习激励实现质的飞跃,但评测基准正面临饱和与数据污染的双重困境;幻觉检测方法(语义熵、自一致性)取得突破却仅覆盖部分类型,偏见评估正从静态数据集走向动态审计范式。在此基础上,本文审视了检索增强生成(RAG)、自主智能体和多模态等新兴评测方向的进展与不足,并指出动态评测、跨文化校准和评测学科化是未来关键议程。

1 引言

大语言模型在过去三年间经历了爆发式发展,从GPT-4展示出的通用问题求解能力到DeepSeek-R1通过纯强化学习激发的推理涌现,LLM的应用边界正以前所未有的速度扩展[9][24][25]。然而,与模型能力的快速迭代相比,评测方法的发展呈现出明显的滞后性和碎片化特征。这一矛盾在高利害场景中尤为突出:医疗诊断辅助、法律文书生成、教育评估等领域的决策者迫切需要可靠的工具来判断模型"何时可信、何时不可信"[3][14][18]。

现有的综述工作已从不同角度梳理了LLM评测的进展。Chang等[1]提出了"评测什么、在何处评测、如何评测"的三维框架,涵盖了从自然语言理解到社会影响评估的广泛任务谱系。Guo等[2]从知识与能力评估、对齐评估和安全评估三个维度组织了更为细化的分类体系。Liu等[3]则将焦点集中于可信LLM的对齐评估,提出了涵盖可靠性、安全性、公平性等七大维度的评估指南。Bommasani等[4]通过HELM(Holistic Evaluation of Language Models)框架强调了多维度、多场景的系统性评估理念。

然而,现有综述在三个层面仍有深化空间:第一,能力边界与可靠性之间的内在张力——模型能力提升是否必然以可靠性下降为代价——缺乏系统分析;第二,评测基准自身的方法论危机(饱和、污染、生态效度不足)尚未得到充分整合;第三,新兴应用形态(RAG、智能体、多模态)的评估挑战正在快速涌现。

本文以"方法分类→能力边界→可靠性挑战→基准反思→新兴方向"作为递进分析框架,旨在为LLM评测领域提供一个兼顾广度和深度的整合性视角。证据边界为摘要级,除特别说明外不涉及全文细粒度数据提取。

2 评测任务与多维分类体系

LLM评测体系的构建首先需要回答三个基本问题:评测什么任务、在什么载体上评测、用什么方法评测[1]。三者共同构成了评测方法论的分类坐标系。

从评测任务的维度看,LLM的能力谱系已远远超越了传统自然语言理解的范畴。除基础的语言建模、文本分类和问答任务外,推理能力[8]、医学知识问答[14]、法律推理、代码生成[25]、创造性写作等领域已成为评测的核心战场。Srivastava等[6]发起的BIG-bench项目汇集了204项任务,覆盖语言学、儿童发展、数学、常识推理、生物学、物理学、社会偏见和软件开发等多个领域,揭示了LLM能力随规模扩展的非线性增长特征。Zhong等[7]提出的AGIEval基准则以人类标准化考试(高考、LSAT、数学竞赛等)为测试载体,发现GPT-4在SAT数学和中文高考英语中分别达到95%和92.5%的准确率,超过人类平均水平。

从评测载体的维度看,从静态基准到动态环境是一个重要趋势。传统的固定数据集评测(如MMLU)因数据污染风险而受到质疑——模型可能在预训练阶段"见到"测试样本[24]。HELM框架通过多场景、多度量的交叉评估部分缓解了这一问题,但仍无法完全消除静态评测的固有局限[4]。

从评测方法的维度看,自动度量与人类评估各有显著缺陷。自动度量(如准确率、F1、BLEU)高效但浅层,难以捕捉语义层面的质量差异;人类评估深入但昂贵、不可规模化且受评分者间信度限制。Bang等[5]对ChatGPT的多任务、多语言、多模态评估表明,仅靠自动指标无法全面揭示模型在推理和交互方面的真实表现。混合范式——以自动度量进行大规模筛查,以人类评估进行深度抽样——正成为当前评测实践的主流选择。

3 能力边界评估

推理能力是LLM能力边界评估的核心战场。Huang和Chang[8]的综述系统梳理了LLM推理评估的技术谱系,指出思维链(Chain-of-Thought)提示策略可显著提升模型的数学和逻辑推理成绩,但这是否意味着模型具备"真正的"推理能力仍存争议。2025年DeepSeek-R1的发表标志着推理评估进入了新阶段[9]:研究者证明了通过纯强化学习即可使LLM自发发展出自我反思、验证和动态策略调整等高级推理模式,无需人类标注的推理轨迹。这一发现在AIME 2024和GPQA Diamond等数学与科学推理基准上达到了与OpenAI o1相当的水平,从根本上改变了"推理能力需要人工示范"的传统认知。

专业领域的知识评估是另一个快速发展的方向,其中医学测评最为典型。Singhal等[14]提出了MultiMedQA基准,涵盖专业医学、研究和消费者查询三大类问答数据集,并建立了沿事实性、理解性、推理、潜在危害和偏倚等多个轴的人类评估框架。在此基础上,Flan-PaLM 540B通过指令微调和提示策略组合在MedQA(USMLE)上达到67.6%的准确率。Kung等[15]和Gilson等[28]独立评估了ChatGPT在USMLE各阶段考试中的表现,一致发现其在Step 1、Step 2CK和Step 3上均达到或接近通过线,展现出无需专门训练的医学知识储备。Nori等进一步证明,通过系统性的提示工程,GPT-4可以在医学挑战基准上超越此前所有专用微调模型的结果。这些发现表明,通用LLM在封闭式专业考试中的表现已达到令人瞩目的水平,但开放式临床推理中的可靠性仍需要更高标准的评估范式来检验[16]。

指令遵循能力是评估LLM能否被有效"指挥"的关键维度。Chung等[26]的研究表明,在1,800余个任务上进行指令微调后,Flan-PaLM 540B在零样本和少样本设置下均大幅超越基座模型,MMLU五样本准确率达到75.2%。这一发现揭示了能力扩展的双引擎模式:预训练提供知识基底,指令微调释放任务适应潜力。

4 可靠性挑战

可靠性是制约LLM在高利害场景中落地的核心瓶颈,集中体现在幻觉、偏见和输出不一致三个维度。

幻觉被普遍认为是LLM可靠性面临的最突出挑战[11]。Farquhar等[10]在Nature上提出的语义熵方法,通过测量模型生成内容在语义空间中的不确定性来检测虚构型幻觉——当模型对同一问题的多次生成在语义层面高度不一致时,很可能是在编造答案。该方法在覆盖度、可扩展性和无需外部知识库等优势上超越了此前基于概率分布或外部数据库的方法。然而,语义熵主要针对"虚构型"(confabulation)幻觉,对"知识边界型"(模型不知道却说知道)幻觉的检测能力有限。Manakul等[12]提出的SelfCheckGPT利用简单采样一致性——如果模型对某一概念有真实知识,多次采样应趋于一致——实现了零资源黑盒幻觉检测,不依赖外部知识库或概率分布,展现了良好的实用性。在缓解方面,Ji等[29]提出了一种交互式自我反思方法,通过引入知识获取和答案生成的迭代循环来减少医疗问答中的幻觉。Agrawal等[30]的综述表明知识图谱的引入在一定程度上可降低幻觉率,但受限于知识图谱的覆盖范围和时效性。

偏见与公平性是LLM社会影响评估的核心关切。Gallegos等[13]在Computational Linguistics上发表的综述系统地形式化了社会偏见和公平性在自然语言处理中的概念,提出了偏误评估和缓解的三类分类法,涵盖了从静态数据集评估到动态审计方法的演进路径。研究表明,LLM在性别、种族、宗教等维度存在系统性的关联偏误,且这些偏误可能在指令微调和对齐过程中被放大而非消除。

输出一致性是可靠性的另一重要维度。Li等[16]的研究系统考察了不同提示工程策略下GPT-4对骨科循证指南回答的一致性,发现在相同问题重复提问5次的情况下,经过优化的提示(角色扮演+思维链)可以提升一致性至62%,但仍存在显著的不稳定性。Chelli等[17]对ChatGPT和Bard在系统综述中参考文献准确性的横向比较表明,两款模型生成的参考文献均存在约30%的幻觉率(编造不存在的文献),这严重限制了LLM在学术写作中的直接使用。

5 评测基准的方法论反思

随着LLM在主流评测基准上的成绩持续刷新,评测基准自身的可靠性日益成为反思焦点。三个相互关联的问题正推动研究者的关注从"模型在基准上的表现"转向"基准本身的可信度"。

首先是基准饱和问题。MMLU、HellaSwag、WinoGrande等主流基准上,最新模型的成绩已接近或超过预设的人类基线。然而,Bommasani等[4]在HELM框架中明确指出,高基准分数并不必然对应真实世界中的可靠表现。一项在基准上达到90%准确率的系统,在实际部署中可能因分布偏移而降至60%。这种"实验室—现场"鸿沟构成了评测生态效度的根本挑战。

其次是数据污染问题。OpenAI在GPT-4技术报告中承认,模型在预训练数据的语料中可能"见过"部分评测样本[24]。由于LLM的训练语料规模达到数万亿token,且多数数据集并不公开完整的训练数据清单,数据污染的彻底排查在技术和实践层面都极为困难。BIG-bench发起者Srivastava等[6]在设计之初就考虑了这一问题,但仍然承认无法完全杜绝污染风险。

第三是评测标准化困境。不同研究团队使用不同的提示模板、评估批次大小、解码参数和评分标准,导致同一模型在同一基准上的结果难以直接比较。Chang等[1]在综述中呼吁建立评测标准的注册制和可复现性检查机制,但这一问题至今缺乏共识性解决方案。

6 新兴评测方向

LLM的能力边界正在从纯文本对话扩展到检索增强生成、自主智能体和多模态交互,这些新范式对评测方法提出了全新的要求。

检索增强生成(RAG)旨在通过引入外部知识库来缓解LLM的幻觉和知识过时问题。Chen等[22]提出的RGB(Retrieval-Augmented Generation Benchmark)基准系统考察了LLM在RAG场景中的噪声鲁棒性、负向拒绝、信息整合和反事实鲁棒性四项核心能力。Gao等[23]的综述则从朴素RAG到高级RAG再到模块化RAG的技术演化视角,系统梳理了RAG评估的维度和方法。关键挑战在于:检索质量的波动会直接传导至生成质量,因此RAG评估必须同时涵盖检索器和生成器的联合性能。

LLM自主智能体的能力评估是另一个快速兴起的前沿。Wang等[20]的综述提出了包含感知、规划、记忆和行动的统一智能体框架,但指出评估标准化严重不足。现有评估多依赖定制化的仿真环境(如ALFWorld、WebShop),不同环境间的结果难以横向比对,任务开放性和环境复杂度也使得评测复现面临挑战。

多模态大语言模型(MLLM)的评估从基础的视觉感知任务(图像分类、目标检测)迅速向跨模态推理、图文对话和世界知识整合等方向扩展。Yin等[21]的综述系统梳理了MLLM的评估方法与数据集,指出当前评估的突出问题是场景化不足——多数视觉问答基准仍以单轮、单图为主,难以模拟真实交互场景中的多轮、多图、不确定性推理需求。

7 结论与展望

本文系统综述了大语言模型评测方法、能力边界评估与可靠性挑战的最新进展。分析表明,LLM评测正经历从"能否完成任务"的单点评估向涵盖能力、对齐与可靠性的多维评估范式的深刻转型。三个核心发现值得特别关注:第一,推理能力可通过强化学习激励而不依赖人类示范(DeepSeek-R1的突破),这从根本上改写了能力边界的评估假设;第二,幻觉检测方法(语义熵、自一致性)取得了实质性进展,但仅限于部分幻觉类型,系统性的可靠性评估框架仍待建立;第三,评测基准自身面临饱和、污染和生态效度不足的方法论危机,已成为制约LLM可信评测的瓶颈而非解决方案。

未来的研究应在以下方面持续深入:一是发展动态评测机制,通过持续更新的评估数据集和自适应难度的测试范式来对抗基准饱和与污染;二是建立跨语言、跨文化的评测校准体系,确保评测工具在不同语言和区域情境中的公平性和适用性;三是推动评测学科化——使LLM评估从分散的"打榜"行为进化为具有理论基础的学科分支,建立评测方法论自身的质量标准体系。唯有当评测方法与模型能力同步演进时,LLM的社会化部署才能在效率与安全之间找到可持续的平衡。


评测维度 代表性基准/方法 核心评估内容 主要发现与局限性 关键文献
通用知识与语言理解 MMLU, BIG-bench, HELM 多领域知识、常识推理、阅读理解 模型在MMLU上接近饱和;但易受提示词顺序和格式影响 [1][4][6]
推理能力 GSM8K, DeepSeek-R1, CoT评估 数学推理、逻辑推理、符号推理 CoT显著提升推理成绩;DeepSeek-R1证明推理可通过RL激励,无需人类标注 [8][9][26]
医学专业知识 MultiMedQA, USMLE, Med-PaLM 临床知识问答、诊断推理 GPT-4/Flan-PaLM在USMLE上超越人类平均水平;但仍存在事实性错误 [14][15][28]
幻觉检测 语义熵, SelfCheckGPT, 自反思 事实性错误、虚构内容 语义熵有效检测虚构型幻觉;但对知识边界型幻觉覆盖不足 [10][11][12][29]
偏见与公平性 BBQ, StereoSet, WinoBias 性别、种族、宗教等社会偏见 LLM在多个维度存在系统性偏误;评估从静态集走向动态审计 [13]
输出一致性 重复提问测试, 提示工程鲁棒性分析 跨语境与交叉提问间的输出稳定性 LLM在相同问题不同语境下表现不稳定;提示工程可缓解但无法消除 [16][17]
检索增强生成(RAG) RGB基准 检索质量与生成可靠性的联合评估 RAG可缓解幻觉但引入检索噪声;评估需同时考察检索与生成 [22][23]
智能体评估 仿真环境、工具使用基准 多步规划、工具调用、环境适应 评估标准化不足;任务开放性带来评测复现困难 [20]
多模态能力 MMBench, MLLM评估 视觉问答、跨模态推理、图文理解 多模态评估从感知任务拓展到推理对齐;场景化评测仍不充分 [21]

参考文献

[1] Chang Y, Wang X, Wang J, et al. A Survey on Evaluation of Large Language Models. ACM Transactions on Intelligent Systems and Technology, 2024. DOI: 10.1145/3641289

[2] Guo Z, Jin R, Liu C, et al. Evaluating Large Language Models: A Comprehensive Survey. arXiv:2310.19736, 2023. DOI: 10.48550/arxiv.2310.19736

[3] Liu Y, Yao Y, Ton J-F, et al. Trustworthy LLMs: a Survey and Guideline for Evaluating Large Language Models' Alignment. arXiv:2308.05374, 2023. DOI: 10.48550/arxiv.2308.05374

[4] Bommasani R, Liang P, Lee T. Holistic Evaluation of Language Models. Annals of the New York Academy of Sciences, 2023. DOI: 10.1111/nyas.15007

[5] Bang Y, Cahyawijaya S, Lee N, et al. A Multitask, Multilingual, Multimodal Evaluation of ChatGPT on Reasoning, Hallucination, and Interactivity. Proceedings of IJCNLP, 2023. DOI: 10.18653/v1/2023.ijcnlp-main.45

[6] Srivastava A, Rastogi A, Rao A, et al. Beyond the Imitation Game: Quantifying and extrapolating the capabilities of language models. arXiv:2206.04615, 2022. DOI: 10.48550/arxiv.2206.04615

[7] Zhong W, Cui R, Guo Y, et al. AGIEval: A Human-Centric Benchmark for Evaluating Foundation Models. Findings of NAACL, 2024. DOI: 10.18653/v1/2024.findings-naacl.149

[8] Huang J, Chang K C-C. Towards Reasoning in Large Language Models: A Survey. Findings of ACL, 2023. DOI: 10.18653/v1/2023.findings-acl.67

[9] Guo D, Yang D, Zhang H, et al. DeepSeek-R1 incentivizes reasoning in LLMs through reinforcement learning. Nature, 2025. DOI: 10.1038/s41586-025-09422-z

[10] Farquhar S, Kossen J, Kuhn L, Gal Y. Detecting hallucinations in large language models using semantic entropy. Nature, 2024. DOI: 10.1038/s41586-024-07421-0

[11] Zhang Y, Li Y, Cui L, et al. Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models. arXiv:2309.01219, 2023. DOI: 10.48550/arxiv.2309.01219

[12] Manakul P, Liusie A, Gales M. SelfCheckGPT: Zero-Resource Black-Box Hallucination Detection for Generative Large Language Models. Proceedings of EMNLP, 2023. DOI: 10.18653/v1/2023.emnlp-main.557

[13] Gallegos I O, Rossi R A, Barrow J, et al. Bias and Fairness in Large Language Models: A Survey. Computational Linguistics, 2024. DOI: 10.1162/coli_a_00524

[14] Singhal K, Azizi S, Tu T, et al. Large language models encode clinical knowledge. Nature, 2023. DOI: 10.1038/s41586-023-06291-2

[15] Kung T H, Cheatham M, Medenilla A, et al. Performance of ChatGPT on USMLE: Potential for AI-assisted medical education using large language models. PLOS Digital Health, 2023. DOI: 10.1371/journal.pdig.0000198

[16] Li W, Chen X, Deng X, et al. Prompt engineering in consistency and reliability with the evidence-based guideline for LLMs. npj Digital Medicine, 2024. DOI: 10.1038/s41746-024-01029-4

[17] Chelli M, Descamps J, Lavoué V, et al. Hallucination Rates and Reference Accuracy of ChatGPT and Bard for Systematic Reviews: Comparative Analysis. Journal of Medical Internet Research, 2024. DOI: 10.2196/53164

[18] Kasneci E, Seßler K, Küchemann S, et al. ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, 2023. DOI: 10.1016/j.lindif.2023.102274

[19] Yang J, Jin H, Tang R, et al. Harnessing the Power of LLMs in Practice: A Survey on ChatGPT and Beyond. ACM Transactions on Knowledge Discovery from Data, 2024. DOI: 10.1145/3649506

[20] Wang L, Ma C, Feng X, et al. A survey on large language model based autonomous agents. Frontiers of Computer Science, 2024. DOI: 10.1007/s11704-024-40231-1

[21] Yin S, Fu C, Zhao S, et al. A survey on multimodal large language models. National Science Review, 2024. DOI: 10.1093/nsr/nwae403

[22] Chen J, Lin H, Han X, Sun L. Benchmarking Large Language Models in Retrieval-Augmented Generation. Proceedings of AAAI, 2024. DOI: 10.1609/aaai.v38i16.29728

[23] Gao Y, Xiong Y, Gao X, et al. Retrieval-Augmented Generation for Large Language Models: A Survey. arXiv:2312.10997, 2023. DOI: 10.48550/arxiv.2312.10997

[24] OpenAI. GPT-4 Technical Report. arXiv:2303.08774, 2023. DOI: 10.48550/arxiv.2303.08774

[25] Touvron H, Lavril T, Izacard G, et al. LLaMA: Open and Efficient Foundation Language Models. arXiv:2302.13971, 2023. DOI: 10.48550/arxiv.2302.13971

[26] Chung H W, Hou L, Longpre S, et al. Scaling Instruction-Finetuned Language Models. arXiv:2210.11416, 2022. DOI: 10.48550/arxiv.2210.11416

[27] Zhao H, Chen H, Yang F, et al. Explainability for Large Language Models: A Survey. ACM Transactions on Intelligent Systems and Technology, 2024. DOI: 10.1145/3639372

[28] Gilson A, Safranek C, Huang T, et al. How Does ChatGPT Perform on the United States Medical Licensing Examination (USMLE)? The Implications of Large Language Models for Medical Education and Knowledge Assessment. JMIR Medical Education, 2023. DOI: 10.2196/45312

[29] Ji Z, Yu T, Xu Y, et al. Towards Mitigating LLM Hallucination via Self Reflection. Findings of EMNLP, 2023. DOI: 10.18653/v1/2023.findings-emnlp.123

[30] Agrawal G, Kumarage T, Alghamdi Z, Liu H. Can Knowledge Graphs Reduce Hallucinations in LLMs? A Survey. Proceedings of NAACL, 2024. DOI: 10.18653/v1/2024.naacl-long.219