LLM 科研智能体能否可靠判断可预测性?植入信号模拟实验的评估
作者把 LLM 科研智能体当作统计检验,在植入信号的模拟世界中评测三个前沿模型和一个开放权重模型的预设运行结果。智能体比预设的样本外检验更常检出弱信号,主要原因是它们接受更弱的证据;按智能体的假阳性率衡量,常规样本内检验表现相当或更好。
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
430 条收录动态,更新于 17:06
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
作者把 LLM 科研智能体当作统计检验,在植入信号的模拟世界中评测三个前沿模型和一个开放权重模型的预设运行结果。智能体比预设的样本外检验更常检出弱信号,主要原因是它们接受更弱的证据;按智能体的假阳性率衡量,常规样本内检验表现相当或更好。
研究团队提出 Collaborative Intelligence Benchmark,用 240 项任务从 8 个团队协作维度衡量 AI 智能体作为队友的表现,任务来源包括航空事故报告、临床病例、编程任务和谈判,结果均可程序化验证。
alphaXiv 转发 intology 关于自动化 AI 研发用于分子发现的博客,并给出发布在 alphaXiv 上的链接。据该博客,自动化研究系统 Locus 可自主开发科学 AI 模型,在分子性质预测、微调 Boltz-2 预测小分子活性以及围绕 BoltzGen、Boltz-2、ESMC、ESMFold2 构建抗体设计流程等任务上,表现优于 SOTA 基线和用于优化这些任务的 LLM 智能体;博客还称其在数据有限时泛化更好、样本效率更高、解方案更多样。
Locus sets the frontier for automating molecular design Our automated research system Locus develops scientific AI models that outperform SOTA expert solutions Unlocking the potential of scientific AI requires leveraging proprietary data. Locus achieves this autonomously 🧵👇 -- We test Locus across a number of tasks related to molecular scoring and design: training molecular property prediction models for a proprietary task, fine-tuning Boltz-2 to predict small-molecule potency, and building antibody design workflows around BoltzGen, Boltz-2, ESMC, and ESMFold2. Each of these settings are real-world AI for science use cases, where tasks are often out-of-distribution for existing foundation models and limited in data, while featuring expensive and noisy evaluators. Compared to state-of-the-art baselines and LLM agents set to optimize these tasks, Locus achieves higher performance. Additionally, Locus generalizes better despite limited data, finds more sample efficient solutions, and explores a higher diversity of solutions.
研究团队提出 FinDendro 基准,用 1999 至 2026 年的 2,226 条带日期的美国事实(月度宏观序列、月末股价和美联储决议)检验大模型对自身知识边界的判断。
研究团队提出 IdeaTaste 基准,用 2025 年冻结的文献快照让 LLM 撰写研究提案,再与同一社区 2026 年实际发表的论文比对,以此衡量模型的科研品味。
Mistral的Le Chonk独家发布于alphaXiv!
The story of how Le Chonk was built, told by the team behind it. Now on @askalphaxiv : https://www.alphaxiv.org/abs/2611.mistral-large-4
沙特阿拉伯苏丹王子大学团队在 arXiv 发布 PlagiaCorpus,一个阿拉伯语—英语双语抄袭与文本复用检测基准,共 198,643 条文本记录,含 34,885 条源段落和 163,758 条查询。
卡内基梅隆大学团队分析 2020 至 2026 年 564,861 条 AI 相关 arXiv 记录,发现跨主题同名碰撞相对 2020–2022 年合并基线增长 4.33 倍,而同一主题内仅增长 1.12 倍,换用第二个句向量编码器后该模式仍成立。
Reza Sameni 发布 WFDB-x,将 WFDB Software Package 10.7.0 原生重实现于 Python、C++、Rust、Julia、R、MATLAB/Octave 和 Kotlin 七种语言,每种都提供库函数、高层 API 和 33 个命令行工具。
一篇 arXiv 预印本以 NeurIPS 2014 和 2021 两次重复评审实验校准模型,模拟会议应对投稿洪流的两种方案。
一篇 arXiv 预印本提出“协作辩论模型”(CDMs)的设想:这是以议题为中心的环境,研究者与 AI 及彼此协作探究问题,并共同维护一份随辩论与分析不断更新的领域记述,个人贡献仍可归属。文章设想期刊可演化为这类汇聚场所,并讨论不同所有权形式如何影响科学议程与后续工作的支持。CDMs 还可连接远程实验室等研究服务开展新研究,共享仓储让数据可供进一步探究。
研究者提出 HistGramBench,用 2,507 幅来自 1551–1933 年间 95 部著作、8 种语言的历史数学图,评测多模态模型把图重绘为 TikZ 程序时的结构还原能力。每幅图由两家不同厂商的 AI 模型就读者可从图中读出的事实达成一致,再在模型自己绘出的图上核验这些事实。评测 6 个平价模型,最佳者约还原五分之三的事实,多数遗漏来自始终未生成图形的程序,平行与相切关系最难复现。
牛津大学团队提出基于 Django 的轻量模块化网页平台 LODox,用于探索和可视化文化遗产关联开放数据,采用卡片式界面与语义门户呈现多源异构数据。平台将基于 LLM 的语义智能体以 Python 包形式解耦集成,可绕过以便复现测试或调试,并规划与 Solid 协议对接。该工作以海报形式投稿第 3 届 Solid Symposium,属原型阶段。
论文发现多Token预测(MTP)约80%的训练梯度来自干扰学习的噪声成分,提出Soft-MTP将其去除,改为让MTP头匹配模型自身的下一Token预测,仅需一行代码、无额外参数或可测训练开销。在167M-1.2B模型上,Soft-MTP提升了困惑度、下游准确率和投机解码速度;1.2B模型HumanEval Pass@64从40.85%升至43.90%,投机解码比标准MTP快约1.5%。
上海交通大学等机构的研究者提出一个自主智能体,把冻结的 AlphaFold 3 当作黑箱实验仪器,针对每个蛋白复合物靶点提出生物学假设、分析并重组 MSA,仅凭预测器的无标签置信信号迭代调整序列选择与跨链配对。
Ai For Alpha 团队提出 Promote 协议,为每个候选交易规则在诞生时分配可预测的检验财富,仅用后续收益累积成本感知的 e-process,若总财富不超过 1 即可将错误晋升概率控制在 α 以内。
南洋理工大学团队提出专家审核的虚拟研究环境 OmniQ,把计算量子科学论文转成可执行复现任务,并据此评测 5 个 LLM 驱动的 AI 科学家与 6 个第三方 agent harness。
入选理由该研究把论文复现变成可诊断任务,并给出从专家修正中积累经验的自改进路径,对关注自主科研代理的研究者有参考价值。
武汉大学等机构提出 PRIME,一个可插拔的反馈到修订决策层,用于现有 LLM 科研构思系统:先对问题—假设—解决方案结构做归因,再用轻量 rollout 比较不同范围干预的预期效果与风险,最后编译为面向生成器的修订计划。
Takehi 等人提出 Weight-Space Programming,让前沿 LLM 从自然语言目标出发直接检查和编辑神经网络权重张量,不依赖梯度下降或训练循环。
Anthropic 发布开源原型 FlashProve,用 zkSNARK 让用户在不接触模型权重的情况下验证回复确由所声明的模型生成。
MIT CSAIL 研究者提出「权重空间编程」,让 OpenAI 的 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重,仅调整约 0.016%(131072 个)参数,就使该模型在 MATH-500 上的成绩从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%,IFEval 从 21.0% 提升至 62.3%。
MIT CSAIL 博士生 Rikiya Takehi 及团队提出“权重空间编程”,让 GPT-6 Astra 直接读写神经网络权重,不训练也不算梯度。据其博客介绍,实验只改动 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9 升到 48.1,GSM8K 从 13.8 升到 67.1,并称修复了该模型的推理循环、指令遵循提升 3 倍。
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://rikiyat.github.io/blog/weight-space-programming/
alphaXiv 转述 MIT 的一篇博客,称 GPT-6 Astra 能在不计算梯度、不重新训练的情况下直接读取并编辑 Qwen3.5-0.8B 的权重,使其 MATH-500 成绩从 7.9% 提升到 48.1%。
意大利特伦托大学 Chang Liu 在 arXiv 预印本中把 LLM 科研智能体视为统计检验,在已知真值的模拟世界中评分其对“预测模型是否跑赢静态基准”的判断。
研究者提出视频问答基准 VideoMemBench,用带跨轮依赖的多轮对话检验多模态大语言模型的“上下文视频记忆”,含 326 个视频、2,476 轮对话,其中 1,387 轮依赖前文。在 20 多个开源与闭源 MLLM 中,Claude Opus 5 总分最高也仅 45.7%。数据集与评测已公开。
针对多教师 on-policy 蒸馏(MOPD)在强化学习后能力整合中的泛化问题,研究者在 Qwen3 模型上评估数学推理、编程、智能体与长上下文任务,发现 OPD 与 MOPD 的分布内得分可达教师的 96.04-102.73%,但分布外得分比基座模型低 2.45-16.25%。
研究者提出 VisSearch-Bench,用 204 个人工编写的任务评测多模态智能体的长程视觉搜索,覆盖 7 个主领域、25 个子领域,包含集合式视觉搜索、序列式视觉搜索、宽深混合搜索、竞争性视觉消歧和视觉结构引导搜索五类任务。
多机构联合构建的 Realtime-Bench 用 50 个交互式游戏与网页任务评测前沿模型的实时决策能力,GPT-6 Astra(high)在真实延迟条件下通过率仅 36%,暂停时钟下高推理模型可达 70%–80%。
剑桥大学团队训练数千套学习模式各异的人工神经网络,发现好奇心最强的网络在新任务上表现更好,并自发形成分层模块化等类脑结构。研究还采集275名8至15个月婴儿的眼动追踪数据,据此设定网络的好奇心机制。高好奇心网络连接密度先升后降,与人脑发育规律吻合,估算对应年龄约20岁,缺乏好奇心的网络约9岁。
MIT Sloan 的 Michelle Vaccaro、Abdullah Almaatouq 与 Thomas W. Malone 在 arXiv 预印本中提出 AutoAnalysis,由前沿 AI 智能体按预注册协议完成检索、摘要筛选、全文评审、效应量提取与合并,并按计划自动纳入新研究。