Ai2 发布 StateBench 评估大模型状态追踪
大语言模型能否在长文本中追踪状态变化——比如一个物体几经转手,或一个变量被重新赋值? 在我们新推出的 StateBench 评估中,包括 GPT-6 Sol 和 Claude Opus 5.5 在内的前沿模型,在最难、最长的问题上准确率降至 13% 或更低。🧵 https://github.com/allenai/state-bench
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
254 条收录动态,更新于 10:50
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
大语言模型能否在长文本中追踪状态变化——比如一个物体几经转手,或一个变量被重新赋值? 在我们新推出的 StateBench 评估中,包括 GPT-6 Sol 和 Claude Opus 5.5 在内的前沿模型,在最难、最长的问题上准确率降至 13% 或更低。🧵 https://github.com/allenai/state-bench
我们测试了开放预训练模型和前沿模型,包括 Gemini 3.8 Flash、Claude Opus 5.5,以及 GPT-6 Sol 和 Luna。 前沿模型在较简单的问题上表现良好。但随着任务变难、输入变长,准确率急剧下降——在最长的通用有限问题上降至 13% 或更低。
一项发表于 Scientometrics 的研究让 GPT-4o 对 2021 年提交给奥地利科学基金的 139 份真实申请做两两比较排序,模型与人类评审最终资助决定的一致率为 60%,但对新颖性评分高的提案系统性更不愿资助。
研究者提出 HistGramBench,用 2,507 幅来自 1551–1933 年间 95 部著作、8 种语言的历史数学图,评测多模态模型把图重绘为 TikZ 程序时的结构还原能力。每幅图由两家不同厂商的 AI 模型就读者可从图中读出的事实达成一致,再在模型自己绘出的图上核验这些事实。评测 6 个平价模型,最佳者约还原五分之三的事实,多数遗漏来自始终未生成图形的程序,平行与相切关系最难复现。
MIT CSAIL 研究者提出「权重空间编程」,让 OpenAI 的 GPT-6 Astra 直接读取并修改 Qwen3.5-0.8B 的神经网络权重,仅调整约 0.016%(131072 个)参数,就使该模型在 MATH-500 上的成绩从 7.9% 提升至 48.1%,GSM8K 从 13.8% 提升至 67.1%,IFEval 从 21.0% 提升至 62.3%。
MIT CSAIL 博士生 Rikiya Takehi 及团队提出“权重空间编程”,让 GPT-6 Astra 直接读写神经网络权重,不训练也不算梯度。据其博客介绍,实验只改动 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9 升到 48.1,GSM8K 从 13.8 升到 67.1,并称修复了该模型的推理循环、指令遵循提升 3 倍。
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://rikiyat.github.io/blog/weight-space-programming/
alphaXiv 转述 MIT 的一篇博客,称 GPT-6 Astra 能在不计算梯度、不重新训练的情况下直接读取并编辑 Qwen3.5-0.8B 的权重,使其 MATH-500 成绩从 7.9% 提升到 48.1%。
意大利特伦托大学 Chang Liu 在 arXiv 预印本中把 LLM 科研智能体视为统计检验,在已知真值的模拟世界中评分其对“预测模型是否跑赢静态基准”的判断。
Astra 不断让我惊叹 🤯
We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://rikiyat.github.io/blog/weight-space-programming/
《纽约时报》周一起诉隐私浏览器公司 Brave,指控其抓取受版权保护内容并分发给 Anthropic、Perplexity、Mistral、xAI 和 Cohere。
Olam Labs 将 50 个 GPT-6.1 Sol 智能体放入 Minecraft 生存世界三小时,唯一指令是建立繁荣文明,期间交换约 5900 条消息。
多机构联合构建的 Realtime-Bench 用 50 个交互式游戏与网页任务评测前沿模型的实时决策能力,GPT-6 Astra(high)在真实延迟条件下通过率仅 36%,暂停时钟下高推理模型可达 70%–80%。
Y Combinator 与 Olam Labs 研究人员在《我的世界》中测试上百个智能体集群的协作与对抗。Civ50 测试中 50 个 GPT-6.1 Sol 智能体三小时内未能发展壮大,还出现四个智能体花 11 分钟任命“唯一肥料操作员”的官僚化行为。
中国人民大学与安特卫普大学的研究者在 232 篇分层抽样的 ICLR 2025 投稿上比较了五种 LLM 评审范式(Direct、Anchor、Group Rating、Elo、Swiss tournament)、三种输入形式和三个模型,并在全部 11,513 篇有评分的投稿上复现。
SemiAnalysis 发布 GDPx 基准,覆盖芯片设计、网络安全、生物、金融、法律、量化交易、递归自我改进、硬件设计、材料科学、对齐和软件工程等领域,最高分模型仅得 12%。
OpenAI 于 10 月 6 日发布 700 余篇研究论文,数学家 Frank Calegari 认为这标志着 AI 已能在数学多个领域做出突破性贡献。他指出这些论文写作质量糟糕、违反署名规范,部分甚至有误,但数学家更应把精力放在招聘、发表与培养学生上。他以有限单群分类的历史为例,提醒同行不要因“著名问题被解决”而放弃领域,而应借新工具开拓更深层的问题。
沃尔夫数学奖得主、杜克大学荣休教授英格丽·多贝西在2026世界顶尖科学家论坛期间表示,AI不会让数学家集体“退休”,其本质是高效的文献检索与信息重组工具。她认为OpenAI等公司发布的数学成果尚缺乏真正原创性想法,AI至今未展现自主构建全新数学概念的能力,数学证明与推导仍需人类理解。她建议资深数学家把AI用于繁重的文献梳理,将精力投入需要创造力的研究步骤。
西安交通大学团队提出开源框架 Simjecture,让语言模型智能体围绕人类设定的物理猜想做反例搜索与前瞻性假设修正,并以计算物理作为可执行检验平台。
入选理由作者团队公开了 Simjecture 框架与完整研究记录,研究者可据此判断反例驱动的智能体研究在计算物理中能承担到哪一步。
OpenAI 向 Trusted Access 项目成员发邮件确认,自 11 月 29 日起将把此前被排除在训练之外的 Daybreak Blue 会话数据用于模型训练,即便用户关闭了"为所有人改进模型"设置。
OpenAI 公开了创作者、学者、无障碍倡导者和法律专家等提交的法庭简报节选,论述合理使用如何支持 AI 训练与创新。这些材料以法庭意见形式呈现,未披露具体案件名称或简报数量。
OpenAI 发布 GPT-Rosalind-6 系统卡增补,该模型沿用 GPT-6 Astra 的权重,未新增训练数据或额外后训练。在 GeneBench Pro v13 的 129 道生物数据定量分析题上,最高推理预算下单次尝试成功率为 37.7%,GPT-Rosalind-5.5 为 16.7%,该评测使用与生产环境不同的基准专用配置。
OpenAI CEO Sam Altman 在 Cheeky Pint 播客中表示,他同情难以消化大量 AI 生成数学结果的研究者,但认为公众了解宇宙运行方式的权利高于这些干扰,公司也不会停止发布。
O'Reilly Radar 的 This Week in AI 节目梳理了本周智能体进展:开源渗透测试框架 ARTEX 相关供应链攻击波及超 2,250 个 Microsoft 365 租户,PHP2Shell 两个 CVSS 9.2 漏洞于 10 月 21 日披露后 CISA 敦促尽快修补。
OpenAI CEO 萨姆・奥尔特曼在《Cheeky Pint》播客中表示,他理解数学家面对 AI 研究成果大量涌现的处境,但 OpenAI 仍需继续公布具有重要价值的科学发现,不应把重大基础科学发现长期留在公司内部。
一项针对 Into the Unknown 基准的重分析发现,AI 科研智能体论文中不受支持的数字多数并非凭空编造,而是取自智能体自己的结果文件却对应了错误的实验、指标或运行。
作者让六个前沿模型以单人或团队形式,从七篇近期 NLP 论文出发各提出五个最小可行实验(MVE),并预测结果、排序;独立执行器把 415 个 MVE 全部跑完,再由三个模型审计。
维基媒体基金会(Wikimedia Foundation)就包括《纽约时报》诉 OpenAI 和 Microsoft 在内的一组 AI 版权诉讼提交法庭意见书,对双方均不站队,并警告任何一方获得过于简化的全面胜利都可能损害开放网络。
Artificial Analysis 在 Intelligence Index v5 中上线 HLE-Diamond 榜单,独立评测 CAIS 与 Scale AI 经一年清洗修订的 Humanity's Last Exam 1000 题版本,其中 272 题含图像,推理与知识题各半。
一项针对 Into the Unknown 基准的重分析发现,AI 科研智能体论文中无依据的数值大多并非凭空编造,而是取自错误的实验、指标或运行。作者重析该基准全部 540 份评审判断,并人工标注 18 份投稿中的 256 条数值主张,在 53 条无依据主张中 47 条属于错配、仅 6 条在可用文件中找不到来源,加权后错配占比约 81%。