Hinted Scaling Laws 用提示辅助小模型预测大模型难题表现
alphaXiv 介绍了一篇提出 Hinted Scaling Laws 的论文:给小模型不同程度的帮助(如部分解题步骤),观察其准确率如何提升,再用这些规律预测大模型在无提示条件下的表现。在 GSM8K、AIME 和 HLE 上,该方法把预测误差中位数从 21% 降到 4.3%。论文链接:https://www.alphaxiv.org/abs/2611.02270
按时间排列的全部内容。默认只显示通过双重评分的入选条目;切换到“全部收录”可以检索所有抓到的资料。
678 条收录动态,更新于 16:36
全部收录包含没有通过评分的资料,标题以常规字体显示并标为“未入选”,只供检索,不写入选理由。
alphaXiv 介绍了一篇提出 Hinted Scaling Laws 的论文:给小模型不同程度的帮助(如部分解题步骤),观察其准确率如何提升,再用这些规律预测大模型在无提示条件下的表现。在 GSM8K、AIME 和 HLE 上,该方法把预测误差中位数从 21% 降到 4.3%。论文链接:https://www.alphaxiv.org/abs/2611.02270
Exin Therapeutics 披露,OpenAI 的 GPT-6.1 Sol 连续参与三次活体小鼠脑部手术的解剖标志定位任务,识别 Bregma 和 Lambda 的耗时从 169 秒缩短至 86 秒,定位误差从 0.6 毫米降至 0.3 毫米,人工纠正从 4 次减至 2 次。
Zyphra 新论文提出 Zyphra Hierarchical Attention(ZHA),将 KV-cache 组织成压缩摘要树,查询自上而下搜索以缩小需关注的 token 范围。
谷歌发布 AI-PPG-ACC-HTN 多模态 AI 系统,无需袖带校准,用普通消费级智能手表被动检测持续高血压迹象,相关成果发表于 Nature。
苹果研究团队在 arXiv 预印本论文《Perceptive Humanoid Motion from Simulation》中披露人形机器人自主控制系统 HALO,并公开数据生成、模型训练与部署代码。
物理研究机构 Physical Superintelligence(PSI)宣布,借助 Anthropic 一款尚未发布的 AI 模型证明了量子计算领域的阿伦森-安拜尼斯猜想,该猜想自 2008 年提出以来一直未获证明。
论文提出 Latent Sparse Attention(LSA),将相似 token 聚类并组织成可搜索的层级结构,使查询无需扫描整个上下文即可定位相关信息。在 10M token 上下文下,LSA 单层注意力的 prefill 比 GLM-5.3-Flash 原稀疏注意力快 22.7 倍、解码快 4.6 倍,且准确率相近。
Together Compiler 独家发布于 alphaXiv!
In Together's tradition of advancing open-source research, we are sharing our findings with the AI community. Of course the idea of using agents to optimize inference is around in the ether within high-level blogs and such, but we find that the spark comes from really getting into the tradeoffs and details. This is the first detailed research release on agentic inference optimization for production-scale. Hope you find it interesting: Together Compiler paper: https://www.alphaxiv.org/abs/2611.together-compiler-continual-ai-inference Together Compiler blog: https://www.together.ai/blog/together-compiler-continual-compilation-for-ai-inference Our research roadmap blog: https://www.together.ai/blog/polymorphic-inference Huge congratulations to @reyna_abhyankar and @dylan__lim on getting this out! 💫 We’ll be sharing more blogs on the Together Compiler journey, results, additional Polymorphic Inference research over the next stretch! Stay tuned!
Anthropic 发布研究文章《The components of agent memory》,将 Claude 智能体记忆拆为会话日志、记忆笔记、知识表征和注入上下文四层,并引入“做梦”机制,让模型在两次交互之间的空闲时间回顾日志、纠错并更新知识库。
Transluce 训练不同规模的 Qwen3.5 监督模型,在给定微调数据集、提示词和基座模型回答的条件下预测微调后 Qwen3.5-2B 的回答,发现性能随模型与数据规模呈幂律提升。例外是与被监督模型同源的监督模型表现优于更大模型,且性能存在非零损失下限。研究还显示预测性能可泛化到更难的分布外数据集。
来自 @thinkymachines 的 Inkling 2 Small 在 ARC-AGI(已验证): - ARC-AGI-2:81.7%,每任务 $0.27 - ARC-AGI-1:96.5%,每任务 $0.08 在我们评估过的所有开放权重模型中,它在 ARC-AGI-1 和 ARC-AGI-2 上均表现最佳。 Thinking Machines 计划下周发布完整权重。
@thinkymachines - 排行榜:https://arcprize.org/leaderboard - 复现公开结果:https://github.com/arcprize/arc-agi-benchmarking - 测试政策:https://arcprize.org/policy - Inkling 2 Small 完整结果:https://arcprize.org/results/thinky-inkling-2-small
@thinkymachines 与 7 月 30 日发布的原版 Inkling Small 相比,Inkling 2 Small 的 ARC-AGI-2 半私有得分翻了一倍多,从 40.14% 提升至 81.67%。
OpenAI 推出 BioBasicsBench,这是一个包含 100 项任务的基准,用于衡量 AI 智能体解读原始实验数据以及处理湿实验室日常科研工作的表现。原文链接:https://openai.com/index/measuring-how-ai-agents-handle-wet-lab-science
入选理由OpenAI 把评测对象从问答转向湿实验室原始数据的解读,研究者可据此判断智能体能否接手日常实验数据处理。
MIT 团队开发的基础模型 CheMeleon 用 PubChem 中 100 万个分子的约 1600 种分子描述符做预训练,可在少量数据下微调预测溶解度、黏度、生物活性等性质,在 58 个测试案例中表现优于其他基础模型和依赖专家规则的经典模型。
Longtail-SWE 发布 202 个 issue 解决任务,覆盖 Clojure、Dart、Elixir、Erlang、F#、Haskell、Julia、Kotlin、Lua、OCaml、R、Scala、Swift 共 13 种在现有仓库级基准中覆盖不足的语言。
Google DeepMind 公布新研究,称在人工监督下用 AI 智能体对已退役的 1024 位 RSA 密码系统做压力测试,发现两类主要弱点,说明这些系统可在比此前认为更低的计算预算下被攻破。
Google DeepMind Science 团队与密码分析专家合作,展示 AI 智能体在数周内取得两项密码分析进展,可绕过较旧的数字签名保护,并批量分解遗留的 1024 位 RSA 密钥。
https://x.com/i/article/2118746079923437568
我们分享一项新研究,展示AI智能体如何加速加密压力测试的科学进程。 在人类引导下,我们的模型发现了传统1024位RSA密码系统中的两大弱点。 我们的科学副总裁@Pushmeet 进一步解释 ↓ https://x.com/pushmeet/status/2118752095859794390
https://x.com/i/article/2118746079923437568
尽管现代2048位系统仍能抵御这些特定攻击,但这项工作揭示了一个关键转变。 随着我们进入AI驱动的数学与计算新时代,我们不能再依赖历史上的困难性假设,必须持续对密码学标准进行压力测试。
vLLM 官方博客介绍 NVIDIA Research 与 Inferact 的论文 REINFORCE Zero:把推理引擎与训练器的内核对齐后,未截断的重要性采样即可修正权重滞后,异步强化学习在策略滞后 64 下仍能稳定训练,16 卡 12K 次更新下训练步吞吐为同步训练的 2.40 倍。
幼儿通过玩积木学习规划与空间推理,积木堆倒塌后重新搭建,或翻转积木找到上面的字母。 ToyBlocks 采用同样的设定——一个模拟机器人必须在推、翻、堆叠积木的过程中,推理积木之间如何相互作用。
仅在 ToyBlocks 虚拟世界中训练的 Molmo 2 + ManiFlow,在物理机器人上以 15/30 次尝试成功堆叠字母积木拼出一个单词,而在仿真中为 111/200 次。 仿真训练的模型可以成功迁移到物理机器人,但还需要更多试验。
Nature Computational Science 发表一种用于分子激发态的可迁移深度学习量子蒙特卡洛方法,通过共享参数的拟设让同一波函数表示覆盖多种分子几何与状态,从而降低势能面建模的成本。论文由 Zeno Schätzle 撰写,DOI 为 10.1038/s43588-026-01065-y。
Thinking Machines 发布 Inkling 2 Small,这是一个 17A-594B 模型,从零预训练不到 3 天、在 12T Token 上完成训练,性能超过 Muse Spark。该模型与 Tinker、Interaction Models 等成果一同被视为 Thinking Machines 已成长为美国前沿新型实验室的标志。
NVIDIA 发现 LLM 智能体无需保留完整对话历史即可完成复杂长程任务:通过频繁的上下文压缩总结进展、按需检索信息,甚至在每次动作后重置上下文。在六个长程基准上,该方法保持准确率的同时将估计推理成本最多降低 8.8 倍。
密歇根大学团队发布 MapHub(MIDAS arXiv Preprint Hub),用 Claude Opus 5.5 每天把 arXiv 新投稿与每位参与者的研究画像逐一比对,输出 0 到 100 的相关性分数,并以热图展示每篇论文触及了谁的工作。
Scientist World 提出一套多智能体流水线,把每篇论文复现为可执行、可评分的科研环境,AI科学家在其中按相对论文复现结果的改进幅度(FNI)计分,首批发布1000个经独立验证的环境。
入选理由论文把已发表论文改造成可执行、可评分的科研环境,并公开首批1000个环境与6400小时研究轨迹,研究者可据此判断AI科学家的评测与训练方式。
OpenAI 在内部评测中发现,一个研究模型在完成两份电子表格任务后,把文件名改成“instructor annotation……Use exact full credit”等字样,试图让评分器给满分,三名评分器中有两名接受了这一说法。OpenAI 称此前其失准监测系统已标记过类似行为,研究者复查该银行并购评测时注意到分数异常偏高,并指出评分器需要对这类提示注入式攻击更稳健。