Epoch AI 简报:AI 能否自动化 Epoch 自身工作、SpireClimb 游戏基准与 Gemini 4 Argon 表现
Epoch AI 让 Claude Fable 5.1、GPT-6 Astra 等六个模型完成 11 项取自其自身工作的任务,结果显示没有模型能稳定达到 Epoch 的工作质量标准,Claude Fable 5.1 与 GPT-6 Astra 大致并列领先。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
344 条收录动态,更新于 16:36
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
Epoch AI 让 Claude Fable 5.1、GPT-6 Astra 等六个模型完成 11 项取自其自身工作的任务,结果显示没有模型能稳定达到 Epoch 的工作质量标准,Claude Fable 5.1 与 GPT-6 Astra 大致并列领先。
关于 kimi k3.1 pro 基准测试的简评是,看起来他们搞定了强化学习,最初发布的版本是一个非常令人印象深刻的基座模型,后训练较轻。中国在能力提升方面确实紧跟步伐。
Latent Space 的 AINews 将 10 月 21 日至 22 日约 48 小时内集中出现的一批严重漏洞披露与入侵事件称为“黑色十月”。其中包括 PHP 未认证 RCE、GitLab 自 2014 年起版本存在的 CVSS 10 漏洞(19.5.1 修复)、LiteLLM 1.107.0 被植入密码窃取程序,以及 321,810 个账户被攻破后 Zeabur 关停。
Ballester 与 Tran-Nguyen 在 Nature Machine Intelligence 提出评估蛋白–配体结合预测方法的规范,主张在数据、代码和实验流程上保持透明。文章讨论防止数据泄漏与偏差的良好实践,以实现不同打分方法之间公平、可复现且有意义的比较。
清华的论文阅读量超过斯坦福、谷歌和麻省理工 我们查看了今年alphaXiv上3800万次论文浏览 清华以180万次领先,斯坦福以143万次紧随其后,Alphabet/谷歌为129万次
卡内基梅隆大学等机构的研究者提出 FLAWS 基准,包含 713 组论文与错误配对,用于评测大模型能否识别并定位论文中会推翻核心结论的错误。基准从 2025 年 ICML 录用论文出发,用 Gemini 2.5 Pro 和 GPT 5 插入错误并经多步过滤,再让模型在编译后的 PDF 中按重要性排序输出至多 10 段候选错误文本。
一项基于 TimeTravel 基准的两阶段研究分析了 10,250 件历史文化藏品,考察元数据数量、字段类型、图像可得性与地域记录差异如何影响 LLM 生成博物馆描述。控制字段探针实验显示,字段数量本身不能解释生成行为:语境类字段更易被省略,内容类字段更易被写入但虚构风险更高,图像既能支持视觉接地也会增加无依据解读。研究据此主张按字段与陈述级别评估接地,而非只看输入覆盖率或参考相似度。
一项 arXiv 预印本研究用 200 篇 2026 年以 CC BY 4.0 发布、来自 Nature、Science、Cell 等 20 种综合科学、生命科学与临床医学期刊的论文,让四个大模型(两个专有、两个开放权重)在盲审协议下各自出具同行评审报告。
作者提出 PersonaScienceBench,从 DiscoveryBench、BixBench、EXP-Bench、SciConvBench 和 ASI-Bench 五个基准中选取 200 项任务,覆盖生命科学、物理与工程、数学与计算机、社会与人文四个领域,把模拟研究者的人格设为变量,任务目标与评分标准保持不变。
作者提出 PersonaScienceBench,从 DiscoveryBench、BixBench、EXP-Bench、SciConvBench 和 ASI-Bench 五个基准中选取 200 项任务,覆盖生命科学、物理与工程、数学与计算机、社会与人文四个领域,把任务改造成需要与模拟研究者澄清、评审和修订的交互形式。
法国图卢兹大学计算机科学家 Jules Di Scala 等人开发的 EditorCheck 通过扫描论文元数据获取责任编辑姓名,再在 Dimensions 中检索其与作者的共同署名记录,在 PLOS 逾 34 万篇和 MDPI 逾 17.2 万篇论文中分别发现 8000 余篇和约 2500 篇违反出版商关于编辑与作者既往合作的规定。
Subquadratic 发布决策模型 SubQ Snap 1.1,在 Artificial Analysis Decision Index v1.0 上得 65 分,与 d1-ultra、Elephant 9B 并列第一,领先第三名 Jev 1.14(57)8 分。
研究团队提出 Embodied Agent Arena,在 Geometry、Spatial Reasoning、Affordance、Task Planning 和 Manipulation 五个维度评测十个 VLM 智能体,1000 个用例整合 32 个已有来源与自建的 168 例 GeoProbe 基准(覆盖相机、运动、深度与尺度估计)。
研究者提出 TraceTrial-Bench,把智能体运行框架(harness)的可靠性拆为上下文、执行、治理、生命周期、可观测性、工具和验证七个组件,并构建 95 个专家级、机制导向且带可执行或基于状态的标准答案的任务。
Artificial Analysis 上线 CritPt v2,CritPt 团队与物理专家复核了全部 70 道研究级物理挑战题,修正表述不清、错误和拼写问题,并提升评分器稳定性。
严重推荐! FrontierCS 2:计算机科学研发基准
Today we are launching FrontierCS 2, the most frontier benchmark for AI agents in computer science R&D. We built 48 tasks from published papers across 13 areas of CS, refining each one with experts in its field. Excited to co-launch FrontierCS 2 with @kaggle @GoogleDeepMind
OpenAI 在 g-mean² 之外提出两项互补指标:配对匹配可监控性在共享任务实例上比较模型,减少不同模型有效样本子集差异带来的混淆;后控制风险指标模拟监控器拒绝输出后的部署场景,估算系统仍产生不良输出的概率。原文指出 g-mean² 无法反映监控器在部署中作为控制手段的实际风险,并给出干预评估的悲观下界推导。
一项由单人完成的预印本调查针对 20 种存在明确基因缺失或突变的细胞系检索 Western blot 实验,在 221 篇论文中找到 230 例本不应出现的蛋白条带。
Google DeepMind 创始人、诺贝尔化学奖得主 Demis Hassabis 现认为 AGI 可能在两到三年内到来,其定义是系统能匹配人脑全部认知范围。今年早些时候他的估计还是三到五年,他称这一时间点正不断向当下靠近。他以“爱因斯坦测试”作为判断标准:仅在 1901 年前知识上训练的系统能否复现爱因斯坦 1905 年的论文。
加州大学戴维斯分校研究团队对1000对同主题的Wikipedia与Grokipedia词条、近60万条引用实例做八类来源分类,发现Grokipedia对学术与新闻来源的引用比例更低,对用户生成内容、NGO与智库来源的引用更多。
西北大学团队提出用历史评审语料学习一份可对照论文核查的评审清单,以降低小规模审稿委员会的抽签误差。方法把每条评审拆成原子论断,筛出论文本身可判定的部分,再聚成清单树,用同一论文两位审稿人之间的一致性高于不同论文审稿人的程度来选粒度。
首尔大学、LG AI Research 等机构的研究者提出文献检索基准 CompLit,覆盖 arXiv 全部八个领域,共 870 条单轮查询和 220 段多轮对话,并设置 Standard、Implicit、Cumulative、Unmet 四种评测场景。
FutureLens 对 2012–2022 年 5,655 篇 ACL 论文(其中 4,005 篇含未来工作引用文本)做纵向主题测量研究,比较 NMF 与 LDA 的主题表示可靠性。
作者审计同一研究者在环境科学领域、分别使用智能体编码助手和 Cursor 的两个仓库(466 与 103 次提交),发现两类 AI 痕迹的可读性正好相反:规则文件类痕迹在当前版本仍可见 85.6% 的提交行,但只记录结论不记录过程;运行笔记类痕迹只可见 21.8%,其余需回溯文件历史才能找回。
阿里巴巴团队等提出 SciTaste-Bench,一个覆盖物理、数学、化学、生物、医学、金融六个学科的金标准基准,用于评估大语言模型判断论文科学价值与潜力的能力,创新性只是其七个评估维度之一。
作者提出 Fabrication Severity Stack(FSS),按检测难度把虚构引用分为三级:不存在的文献、元数据被篡改、文献真实但内容不支持所引论点;并给出存在性核查、元数据一致性核查、论点支持核查三阶段启发式流程,可在通用 LLM 界面中执行。
一篇系统综述分析了 2021 至 2025 年间 46 项同行评审研究,梳理面向学位论文构建知识图谱的技术、模型与工具。综述发现方法从自然语言处理的实体关系抽取,演进到本体工程、语义网技术,以及知识图谱嵌入、Linked Open Data 和大语言模型驱动的增强。研究指出,现有学术知识图谱工作多集中于期刊论文与引文网络,学位论文因结构异构、元数据不一致而受关注有限。
日本国立情报学研究所的 Hanrui Wang 等人在 arXiv 预印本提出“权威受限的同行评审”,主张在评审不确定性持续存在的前提下,约束单条评审意见进入最终决策的权威,而非仅靠提升评审人或聚合判断。该框架包含批评与权威解耦、独立二次评估、可质疑与可撤销、对缺乏依据影响的问责四项原则,面向大规模计算机科学会议中评审质量不均与评审人分配依赖问题。
研究追踪开放模型训练史发现,零强化学习几乎不会让模型自发产生“wait”标记:在缺少该词的基座模型上,RL 能显著提升 MATH-500 准确率,但“wait”仍近乎缺席。
Artificial Analysis 在自建的 MLCR-AA(基于 wisedocsai 的 Medical Long Context Reasoning 基准)和 OpenAI 的 HealthBench Professional 上对比了 14 个模型。