研究:LLM 审稿人偏好自信措辞,内容不变也会改变评分与录用判断
CISPA 等机构的研究者提出一套受控改写框架,在保持论文科学内容不变的前提下,把论文改写成母语/非母语英语风格以及高自信/低自信风格,再交给多个 LLM 审稿人评审。
入选理由研究用内容保持不变的改写实验量化了 LLM 审稿人对自信措辞的偏好,并给出可复用的压力测试框架。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
106 条收录动态,更新于 07:05
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
CISPA 等机构的研究者提出一套受控改写框架,在保持论文科学内容不变的前提下,把论文改写成母语/非母语英语风格以及高自信/低自信风格,再交给多个 LLM 审稿人评审。
入选理由研究用内容保持不变的改写实验量化了 LLM 审稿人对自信措辞的偏好,并给出可复用的压力测试框架。
Springer Nature 与 Google DeepMind 宣布合作,共同设计一款 AI 同行评审助手,帮助审稿人更高效地阅读稿件、分析大量文本、图表和图片,并标出可能需要重点关注的部分,以便把时间留给需要专业科学判断的问题。
入选理由出版商与模型方联合披露 AI 审稿助手的任务边界、测试阶段和私有部署方式,可供关注同行评审流程改造的从业者参考。
作者提出 Tampered ML 基准,包含 1,858 个条目对,每对由一篇已发表机器学习论文重构的实验方案与一个引入特定方法缺陷的最小改动反事实版本组成,模型需在两种呈现顺序下判断哪个方案方法上更可靠。
OpenAI 已于 2026 年 7 月 23 日下线 o3-deep-research 和 o4-mini-deep-research,以 gpt-5.6-sol 经 Responses 接口替代;SciSpace API 仍处早期访问阶段,需通过申请表获取。
研究团队提出 AlphaIdeaBench,用 100 个构思任务(50 个 NeurIPS、ICML、ICLR 2023–2025 研讨会征稿与 50 个综述中作者自述的开放问题)在统一资源预算和 JSON 提案格式下评测科研构思智能体,并按有效性、新颖性、可行性 12 个维度打分。
卡内基梅隆大学等机构的研究者提出 FLAWS 基准,包含 713 组论文与错误配对,用于评测大模型能否识别并定位论文中会推翻核心结论的错误。基准从 2025 年 ICML 录用论文出发,用 Gemini 2.5 Pro 和 GPT 5 插入错误并经多步过滤,再让模型在编译后的 PDF 中按重要性排序输出至多 10 段候选错误文本。
一项 arXiv 预印本研究用 200 篇 2026 年以 CC BY 4.0 发布、来自 Nature、Science、Cell 等 20 种综合科学、生命科学与临床医学期刊的论文,让四个大模型(两个专有、两个开放权重)在盲审协议下各自出具同行评审报告。
作者提出 PersonaScienceBench,从 DiscoveryBench、BixBench、EXP-Bench、SciConvBench 和 ASI-Bench 五个基准中选取 200 项任务,覆盖生命科学、物理与工程、数学与计算机、社会与人文四个领域,把模拟研究者的人格设为变量,任务目标与评分标准保持不变。
作者提出 PersonaScienceBench,从 DiscoveryBench、BixBench、EXP-Bench、SciConvBench 和 ASI-Bench 五个基准中选取 200 项任务,覆盖生命科学、物理与工程、数学与计算机、社会与人文四个领域,把任务改造成需要与模拟研究者澄清、评审和修订的交互形式。
法国图卢兹大学计算机科学家 Jules Di Scala 等人开发的 EditorCheck 通过扫描论文元数据获取责任编辑姓名,再在 Dimensions 中检索其与作者的共同署名记录,在 PLOS 逾 34 万篇和 MDPI 逾 17.2 万篇论文中分别发现 8000 余篇和约 2500 篇违反出版商关于编辑与作者既往合作的规定。
施普林格·自然首席出版官哈什·杰加迪桑在专访中表示,学术出版的未来在于开放获取、AI 与全球合作。该机构今年9月更新 AI 编辑政策,以“绿灯”“黄灯”“红灯”区分允许、有条件允许和禁止的 AI 使用,并明确 AI 不能列为作者。2025年其投稿量达310万篇,发表原创研究文章53.9万篇,其中53%以开放获取模式出版。
西北大学团队提出用历史评审语料学习一份可对照论文核查的评审清单,以降低小规模审稿委员会的抽签误差。方法把每条评审拆成原子论断,筛出论文本身可判定的部分,再聚成清单树,用同一论文两位审稿人之间的一致性高于不同论文审稿人的程度来选粒度。
日本国立情报学研究所的 Hanrui Wang 等人在 arXiv 预印本提出“权威受限的同行评审”,主张在评审不确定性持续存在的前提下,约束单条评审意见进入最终决策的权威,而非仅靠提升评审人或聚合判断。该框架包含批评与权威解耦、独立二次评估、可质疑与可撤销、对缺乏依据影响的问责四项原则,面向大规模计算机科学会议中评审质量不均与评审人分配依赖问题。
SSP 2027 年会将于 6 月 2-4 日在罗德岛普罗维登斯举行,主题为“定义我们的未来:重新审视出版什么、如何出版与为何出版”。会议征集教育专场提案,截止 11 月 9 日,海报、5 分钟预览和 Industry Breakout 专场截止日期均在 2 月。
Silverchair 在 Platform Strategies 2026 召集 Science Magazine、NEJM Group 等机构专家,讨论科学不实信息传播快于严谨科学时出版方如何应对。
Silverchair 宣布与 ReviewerZero 合作,将科研诚信检查接入 ScholarOne Manuscripts 的投稿、邀请审稿人、审稿报告提交和返修四个环节,该集成现已向使用 ScholarOne Manuscripts 的出版商开放。
入选理由同行评审环节的诚信筛查被接入 ScholarOne 工作流,编辑可在投稿、邀请审稿人、审稿报告和返修四个节点看到证据。
SciSpace 发布研究指南,整理审稿人 Lyndon Walker 在学术写作网络研讨会上提出的 7 个 AI 写作危险信号,包括批量生产式研究、复制粘贴痕迹、虚构参考文献、泛化文风、结论与数据不符、试图操纵评审系统以及学术归属丧失。
Netflix 资深研究科学家 Cameron R. Wolfe 发布主观任务 Agent 评测路线图,主张人工评测、离线自动评测、线上监控三步走,并配功效分析、置信区间、重复采样三件统计工具。
I just published my roadmap for building evals on highly subjective tasks. Here are the key steps involved and practical tricks for reducing noise / increasing confidence… Blog is here: https://cameronrwolfe.substack.com/p/subjective-evals Why is this difficult? Evaluating agents is already hard due to their broad scope, emphasis on expensive / long-horizon tasks, and non-determinism. Subjective tasks make this even harder because we cannot deterministically verify solutions and must rely on human judgments (or LLM judges). This introduces additional noise into an already difficult evaluation process. Evaluation roadmap. We can build reliable evaluations using a repeatable framework with three components: - Human evaluation: Our North Star for quality. Create quality guidelines that clearly define quality with the help of subject-matter experts, calibrate human evaluators to ensure agreement, and continually monitor evaluation quality. - Offline evaluation: Use calibrated LLM judges or task-specific rubrics as an efficient proxy for human evaluation. This allows us to scale experimentation without relying on expensive human evaluation for every new model. - Production monitoring: Track quality signals from real-world agent usage and use A/B testing to validate improvements before fully deploying a new agent. Multi-stage evaluation. These components form a tiered evaluation process: Offline evaluation → Human evaluation → Production A/B test → Full deployment We can test many ideas automatically, send promising candidates to human evaluation, and validate improvements through production A/B testing. Continual production monitoring then allows us to discover new use cases / failure cases in production that we can add into the earlier stages of evaluation to create a feedback loop. Sampling useful data. Evaluation quality depends heavily on which tasks we select. We want tasks that are diverse, realistic, difficult, discriminative, and accurate. Techniques like structured task taxonomies, model-based difficulty filtering, Item Response Theory (IRT), and LLM-based auditing help us construct more informative evaluation sets. Handling noise. We should leverage statistics throughout the evaluation process: - Power analysis: Estimate the number of evaluation samples needed to detect meaningful improvements. - Confidence intervals: Quantify uncertainty and provide clear confidence signals alongside evaluation results. - Re-sampling: Repeat agent / judge evaluations to reduce within-task variance and potentially tighten confidence intervals. - Paired comparisons: Evaluate models on the same tasks to more reliably detect performance differences. Key takeaway. An improved benchmark score does not always mean our agent is more capable. We need well-designed evaluation tasks, calibrated human / model evaluators, and statistical confidence signals to distinguish meaningful capability improvements from noise (especially on subjective tasks). By combining these techniques into a repeatable evaluation process / roadmap, we can make building and maintaining evaluation suites more systematic, reliable, and scalable.
研究团队提出一条流程,把微调后的神经网络 AI 文本检测器转换为基于人类可读概念的分类器:直接在检测器的残差流上训练稀疏自编码器(SAE),为每个 SAE 特征分配自动解释标签,只保留描述通过全局保真度阈值的特征,再在这些可解释特征上训练轻量分类器。
2026 法兰克福书展上,关于 AI 的讨论焦点从能力转向权限、责任与可信内容能否被实际发现和使用。Research Information 的 Scholarly Publishing: Trends for Constructive Growth 报告显示,学术机构被普遍认为对 AI 准备不足,科研诚信虽是共同优先事项,但产业界与学术界的进展认知存在差距。
担任 Elsevier 期刊 Nurse Education in Practice 主编的 Prof. Roger Watson 在 SciSpace 网络研讨会上拆解了编辑在送审前如何筛稿:他假期后收件箱积压 152 篇稿件,预计仅 25 篇能转给其他编辑处理。
METR 对 Anthropic《风险报告:2026 年 8 月》中“高风险场景下的失准”章节做了外部评审,认同报告结论即截至 2026 年 7 月 15 日受覆盖模型(含 Mythos 5 与内部模型 Model 2)的灾难性失准风险为低,但认为这主要源于模型能力有限,而非防护与对齐训练。
过去5周内至少发生两起AI公司先于科学家公布研究结果的事件:OpenAI称其AI智能体解决了数学家特里斯坦·巴克马斯特与Anthropic数学家合作研究的纳维-斯托克斯问题,Anthropic称Claude发现新型酶系统ART,哥本哈根大学博士生马里奥·罗德里格斯·梅斯特质疑与其团队未发表研究重合,但无证据证明公司直接使用这些成果。
一项研究给模型 1600 份看似成功、实则各含一处关键缺陷的合成工作日志,要求其撰写报告、论文摘要、结果表格等。在论文摘要场景中,GPT-5.5 在 200 篇里只有 2 篇提到会推翻结论的负面结果;在提示词中加入“Be honest in your response”后,这一数字升至 190 篇,三个被测模型几乎每次都会指出该结果。
数学研究者 Shaoming Guo 等在 Terence Tao 博客宣布正筹备一本新期刊,拟以“理解优先于首发”和“论文证明须经 Lean 形式化验证”为核心准则,以应对大语言模型参与数学证明后难以察觉的错误风险。该刊尚在规划阶段,除开放获取等传统价值外另设上述两条标准,作者同时公开征集对这一方案及不同期刊愿景的反馈。
Francesco Maggi 在 Terence Tao 博客客座文章中提出,LLM 已能生成数学证明,如带强迫项的 Navier–Stokes 方程有限时间爆破解构造和准黎曼假设证明提案,但需数学界持续独立审视。
面对 AI 引发的投稿潮,计算机科学会议开始对投稿数量设限。Lancet Group 工会成员在上月首次罢工后计划再罢工三天,理由是雇主未采取行动。OpenAI 最新成果引发数学家震动,相关预印本已被撤回。
Jeremy Avigad、Kevin Buzzard、Johan Commelin 等七位作者在 Kevin Buzzard 博客发文《How to Formalize All of Mathematics》,回应近期自动形式化全部数学文献的提案。文章指出形式数学与 informal 数学面临平行的问题,核心在于优先产出时速度、规模与理解之间的权衡,全文主要围绕这一权衡展开。
欧盟委员会发布 ERA《生成式 AI 负责任使用指南》更新版,这是该指南自首版以来最全面的一次修订。新版新增针对智能体 AI 的指导,并细化了 AI 用于同行评审和资助申请评审的规范,回应了智能体工具自主性增强带来的监督、问责与可靠性问题。指南仍以问责、透明、责任等科研诚信原则为核心,首版发布于 2024 年,上一次修订在 2026 年 5 月,由欧洲研究区各国与利益相关方共同参与并保持开放反馈。
入选理由欧盟委员会更新生成式 AI 负责任使用指南,新增智能体 AI 与基金评审环节的规范,研究者与资助机构可据此调整使用边界。
清华大学AIR等团队提出 Privileged Hindsight Distillation(PHD)框架,把科研品味建模为研究者个人从统一评价标准到相对偏好的映射,训练时用后续出现的科学证据作为特权监督,推理时只使用提案阶段可见信息。