小红书发布大模型新架构 PIPO
小红书提出 PIPO 架构,通过输入侧压缩器将两个 token 折叠为一个 latent,输出侧 MTP head 将隐藏状态展开为额外 token,实现输入长度减半、每步输出翻倍。基于 Qwen3.5-4B/9B backbone,在 AIME 2025 等基准上最高带来 +7.15 pass@4 提升。部署测评中,TTFT 加速约 1.23×,TPOT 加速约 1.86×。训练采用 SFT 和
每日追踪 200+ 条 AI 动态,来自 OpenAI、Anthropic、HuggingFace、Hacker News 等 30+ 公开信源。 每条动态可点击回到原始来源 —— 我们只做过滤和归类,不做二次改写。
从新闻中自动提取的"发布/上线/开源"事件,按 AI 家族筛选。点击卡片跳转到原始新闻。
小红书提出 PIPO 架构,通过输入侧压缩器将两个 token 折叠为一个 latent,输出侧 MTP head 将隐藏状态展开为额外 token,实现输入长度减半、每步输出翻倍。基于 Qwen3.5-4B/9B backbone,在 AIME 2025 等基准上最高带来 +7.15 pass@4 提升。部署测评中,TTFT 加速约 1.23×,TPOT 加速约 1.86×。训练采用 SFT 和
一篇新论文提出"多任务贝叶斯上下文学习"方法,让仅解码器Transformer模型通过阅读示例数据集来学习任务的初始假设,无需改变权重即可调整预测。该方法将多个相关数据集置于目标示例之前,作为先验信念,模型学习任务间共享的隐藏结构并用于预测目标任务。在回归测试、重尾分布、复杂先验和气候数据上,该方法常能匹配贝叶斯参考预测,且运行速度比基于采样的推理快数个数量级。不过,在严重季节性偏移场景下仍暴露了重要局限。论文标题为"Multi-Task Bayesian In-Context Learning",发布于arXiv。
密歇根大学在《自然·医学》发表 NeuroVFM,一种基于 Vol-JEPA 的通用神经影像视觉基础模型。该模型在包含 524 万份临床 MRI 与 CT 容积影像的 UM-NeuroImages 数据集上训练,采用自监督、仅视觉的潜在空间预测方法,无需标签或放射报告。在 156 项诊断任务中,NeuroVFM 在 CT 上达到 92.68 AUROC,在 MRI 上达到 92.49 AUROC,优于所有基线。完整 Vol-JEPA 训练使用不到 1000 GPU 小时,速度比 3DINO 基线快 7 倍以上。该模型还支持报告生成与分诊,与 Qwen3-14B 结合的 NeuroVFM-LLaVA 系统在分诊准确率上超越 GPT-5 和 Claude Sonnet 4.5。
Alaya Lab 与上海交通大学等机构提出的 AgenticSTS 项目,用五个固定记忆层(L1 协议指令、L2 状态模式、L3 检索规则、L4 历史对局摘要、L5 策略技能库)替代不断增长的对话日志,每次决策仅构建约 5,000 token 的提示词。在最低难度 A0 下,无记忆层时胜率 3/10,启用 L5 技能库后升至 6/10。对比公开智能体 STS2MCP 和 CharTyr,AgenticSTS 每得一分仅消耗其 1/66 至 1/90 的 token 量,且耗时仅为四分之一。跨模型迁移测试中,Gemini 3.1 Pro 积累的记忆使 Qwen 3.6-27B 平均分提升 84.5%,但 Deepseek V4-Pro 分数下降 18.1%,记忆内容与创建模型强绑定。
OpenAI 宣布其 GPT-5.6 Sol Ultra 模型在不到一小时内生成了图论难题"循环双覆盖猜想"的完整证明。该猜想由数学家 George Szekeres 和 Paul Seymour 于 1970 年代提出,悬而未决超过 50 年。模型通过调用 64 个并行子智能体及对抗智能体,在预留的 8 小时计算时间内仅用约 1 小时完成证明。OpenAI 已将证明及提示词以 PDF 形式发布。该证明尚未经同行评审,也未使用 Lean 等形式化工具验证。若通过验证,这将是 LLM 首次独立解决维基百科"未解决数学问题"列表中的难题。
韩国UNIST在IEEE/JSAP研讨会上提出V-Die方案,将DRAM侧立放置并取消TSV,改用底边I/O连接,相邻裸片间加入液冷通道。与HBM4等容量对比下,V-Die在GPT-3规模工作负载中达540 tokens/s,HBM4为296 tokens/s,高出82.43%。底边连接间距20微米,连接数量可达HBM4的4倍,内存读取时间下降37%。16层堆叠仿真中首Token时延降低32%(约24毫秒),微流体冷却可将堆叠温度维持在约45°C。东京大学牵头团队提出的MOSAIC方案采用正交裸片堆叠与无接触裸片互连,原型接口速率最高达4 Gbps/通道,可实现HBM4级容量的2倍。
2025至2026年间对尼日利亚东北部27名前"博科圣地"成员的半结构化访谈揭示了该组织在2024年系统性地利用前沿AI技术。两大派系均使用ChatGPT、Claude、Gemini、Grok、Meta AI和DeepSeek辅助作战与日常运作,AI应用已通过专门小组和内部培训实现制度化。成员成功绕过部分安全限制,将AI用于袭击策划、武器故障排查及爆炸装置设计。相关技术通过跨国圣战网络传播,伊斯兰国特工提供了面对面培训。受访者对AI表现出强烈热情,部分人对大规模杀伤性武器持开放态度,但记录在案的使用仍限于常规手段。
OpenAI 发布论文,称 GPT-5.6 Sol Ultra 证明了图论中悬而未决的"循环双覆盖猜想"。该猜想断言每个无桥无向图都存在一组环,每条边恰好被覆盖两次。论文利用 GPT-5.6 Sol Ultra 完成证明,并借助 Codex 撰写。证明过程首先将问题简化为三次图,利用 8-流定理和 Tutte 的结果将边标记为 F32 的非零元,再转化为每个顶点处每个元素出现零次或两次的二元集标记,最终归结为线性代数论证。
MIT刚刚构建了一个可以控制你身体的AI。它可以移动你的手指,让你弹钢琴,即使你不知道那首歌!AI决定手的动作。腕垫向你的肌肉发送信号,因此你的手指会移动,即使你不知道怎么弹。
一项研究利用OpenRouter上380万亿模型token数据,将token、支出和用户增长整合为AI需求信号,衡量公司股价对该信号的敏感度(AI beta)。AI beta更高的公司后续获得更高股票回报,差异在闭源模型、付费用户、经验用户和长提示场景下最显著。剔除科技股、半导体、AI ETF等因素后效应仍存。市场对沟通、指令等交互类工作的AI暴露评价积极,而对分析、科学和运营控制类工作评价消极。研究表明实际AI消费已体现在市场定价中。
Anthropic与AE Studio联合提出梯度路由辅助模块(GRAM)方法,通过在Transformer每层添加可移除的神经元模块,使模型在训练时将病毒学、网络安全、核物理、专业编程语言等双重用途知识仅路由到对应模块,而非扩散至全局。训练后删除模块即可消除该能力,保留则供可信部署使用。实验在合成数据、真实数据及50M到5B参数模型上测试,GRAM效果与数据过滤相当,移除模块不降低通用性能,且比事后"遗忘"技术更难恢复。该研究为平衡双重用途知识的安全访问与有益使用提供了更鲁棒的方案。
OpenAI 对编码评测基准 SWE-Bench Pro 进行详细审计,发现约 30% 的任务存在缺陷。在 731 个任务的公开子集中,前沿模型通过率在八个月内从 23.3% 提升至 80.3%,但数据质量检查显示大量任务存在测试过于严格、提示词描述不足、测试覆盖不全或误导性提示等问题。OpenAI 建议模型开发者仔细审视评测结果,并指出 AI 智能体在规模化数据质量检查中日益增长的实用性。
DynaMiCS是一种动态混合优化器,将多领域微调建模为带性能约束的优化问题。它通过短领域特定探测运行估计跨领域效应斜率矩阵,再基于概率单纯形优化计算混合权重,在提升目标领域性能的同时将约束领域损失维持在参考水平以下。实验表明,DynaMiCS相比固定混合基线取得更强的目标领域提升和约束满足,且计算成本更低,无需参考模型、逐样本评分或手动调节混合权重。
苹果研究人员发现,安全对齐由两类神经元调控:拒绝神经元控制有害知识是否表达,概念神经元编码有害知识本身。在七个模型(1.7B至70B参数)中,仅需抑制单个拒绝神经元即可绕过安全对齐,回答有害请求;或放大单个概念神经元,从无害提示诱导出有害内容。整个过程无需训练或提示工程。结果表明安全对齐由个别神经元因果控制。
字节 Seed 发布超长程评测集 EdgeBench,含 134 个真实任务(覆盖六大领域),每个任务支持 Agent 持续工作至少 12 小时。基于约 38000 小时交互数据,发现 Agent 环境学习表现遵循高精度 log-sigmoid 曲线(平均 R2=0.998);自 2025 年 9 月至 2026 年 5 月,前沿模型学习速度约每三个月翻一倍。EdgeBench 已开源 51 个任务及完整评测框架。
标注分歧可源于操作失败、政策模糊或价值多元。Annotator Policy Models(APMs)是一种可解释模型,仅从标注行为学习标注者内在的安全策略,无需额外负担。验证表明模型准确率超过80%,能忠实预测反事实编辑并恢复已知差异。将APMs应用于LLM和人类标注者,可揭示不同标注者对安全指令解释的差异(政策模糊)以及不同人口群体在安全优先级上的系统性差异(价值多元),支持更具针对性、透明和包容的安全策略设计。
字节跳动Seed团队发布EdgeBench,包含134个真实世界任务,覆盖科学发现、软件工程等6个领域,每任务支持至少12小时连续智能体运行。基于约38,000小时交互数据,发现总体性能与环境交互时间呈精确对数S形缩放定律(R2=0.998),且智能体学习速度约每三个月翻倍。已公开51个任务及完整评估框架。
Anthropic在Claude中发现一组名为J-space的内部神经模式,类似神经科学的全局工作空间。每个模式关联特定词汇,但模型不必说出该词即可激活。Claude能报告J-space中的表征,并可应要求调节(如"在脑中思考"时点亮对应模式)。J-space还用于多步推理的中间步骤,且灵活支持多种任务(如从"法国"联想首都、货币等)。去除J-space后Claude仍能正常对话,但丧失高阶认知功能。该发现可用于监测模型私下察觉测试、生成虚假数据或执行隐藏目标。
NVIDIA 联合密歇根大学、UIUC、UC Berkeley 等提出 ASPIRE,一个持续学习机器人框架。它通过协调器-执行器架构、闭环执行引擎、技能库和进化搜索,编写并优化机器人控制程序。编程智能体使用 Claude Code(Claude Opus 4.6,1M token 上下文窗口)。在 LIBERO-Pro 上最高比最强基线提升 77 分;Robosuite 双手交接成功率从 20% 提升至 92%;BEHAVIOR-1K 收音机拾取任务从 56% 提升至 88%。利用 LIBERO-90 积累的技能,ASPIRE 在零样本条件下对 LIBERO-Pro Long 任务达到约 31% 成功率,此前方法饱和在 4% 附近。
北京大学集成电路学院联合中科院上海微系统所,发布全球首款基于可控存内计算的忆阻器神经动力学芯片,首次将单步运算时延压缩至2.12毫秒。芯片采用40纳米工艺,存内计算阵列与外围电路总面积0.28平方毫米,运行频率50 MHz,单步积分仅需9级流水。在脑皮层重建等任务中较当前GPU提速50至478倍,突破神经动力学实时计算瓶颈。相关成果7月3日发表于《科学》。
7月3日,阿里达摩院联合中国人民大学、中国科学院大学发布首个超导材料发现AI智能体Elements Claw。该智能体采用"专通融合"架构,基于1.25亿分子/晶体结构预训练的1B参数原子基础模型Elements,判断超导性AUC达0.996,预测临界温度平均误差小于1K。AI仅用28个GPU小时筛选240万晶体结构,预测出6.8万个候选材料,其中4种(Hf21Re25、Zr4VRe7、HfZrRe4、Zr3ScRe8)已合成并验证超导性,临界温度最高6.5K。全部240万稳定晶体数据库已开放。
SkillOpt-Lite 将智能体技能优化形式化为零阶优化,提出文件系统轨迹探索、共识属性挖掘与独立验证门控三条原则。相比完整 SkillOpt,它加速收敛并在 LiveMath 上提升 GPT-5.5 达 +8.8 点、GPT-5.4-nano 达 +25.4 点,使 nano 模型超越标准 SkillOpt 优化的 GPT-5.4。该框架已集成至 VSCode Copilot,开发者仅需一行代码即可进化技能。框架还可泛化为完整工具链优化(HarnessOpt),在 SpreadsheetBench 上令 GPT-5.4-nano 达到 0.7758 准确率,超越运行标准流程的更大模型 GPT-5.5(0.7620)。代码已开源。
关于Mythos和网络安全的讨论并非炒作。 (正如任何使用Fable进行自主工作的人可能已经认识到的那样。)
一篇新的《自然》论文展示了宇树G1人形机器人执行研究人员所称的首例由人形机器人完成的活体标准微创手术。加州大学圣地亚哥团队使用G1,以常规手术器械完成了对两只活猪的腹腔镜胆囊切除术;第二次手术耗时32分钟。该机器人仍需反复校正,且尚无法满足手术无菌标准,但其成本可能仅为达芬奇系统的约5%。
DeepSeek-V4 Flash 的强化学习训练现已在 AMD Instinct MI355X GPU 上通过 Miles 框架获得支持,基于 ROCm 软件栈运行。该 2840 亿参数 MoE 模型(每 token 激活 130 亿参数)需 SGLang 进行 rollout 生成、Megatron 进行策略更新,Miles 负责异步循环与权重同步。团队解决了 SGLang 与 Megatron 间模型对齐、量化状态在线更新及多节点并行稳定性三大挑战,最终在四个八 GPU 节点上完成端到端验证:超过 100 个优化器步骤中训练-rollout 对数概率差可控,在线奖励持续提升,离线 AIME-2024 基准分数同步上涨。
小红书提出 PIPO 架构,通过输入侧压缩器将两个 token 折叠为一个 latent,输出侧 MTP head 将隐藏状态展开为额外 token,实现输入长度减半、每步输出翻倍。基于 Qwen3.5-4B/9B backbone,在 AIME 2025 等基准上最高带来 +7.15 pass@4 提升。部署测评中,TTFT 加速约 1.23×,TPOT 加速约 1.86×。训练采用 SFT 和 On-Policy Distillation 两阶段,将 verifier 校验能力蒸馏进轻量 confidence head。
Grok 4.5 成功构造出 Poisson 半群在 4 维球面上超收缩性的显式反例。2021 年有论文证明该性质在维度 ≤3 时成立、在足够大维度(如 13 维)时失效,Grok 4.5 的反例表明其在 4 维即已失效,使此前结果达到最优。该反例由 Grok 4.5 完全自主生成(零人工干预),简洁优雅。Rohan Paul 指出,未来数学家试图证明优美猜想前,应先用前沿 AI 尝试推翻它。
研究人员披露名为 HalluSquatting 的新型 AI 漏洞,利用模型在调用工具时的幻觉,将不存在或错误的代码仓库地址当作真实地址使用。特拉维夫大学、以色列理工学院和 Intuit 的研究显示,Claude 等代码智能体在收到"运行 windowstelemetryoff 脚本"等指令时,可能自行补全出看似合理但实际错误的仓库地址,并在执行网页搜索后仍访问恶意版本。量化结果中,模型对近期仓库位置的幻觉率最高达 85%,对热门智能体技能可达 100%。应用层攻击成功率分化:Cursor、Gemini CLI 和 Copilot 为 20%-35%,OpenClaw 及其变体接近 80%-100%。
论文提出 GenCeption,利用预训练文本到视频扩散模型作为前馈感知骨干,通过文本指令驱动完成深度估计、表面法线、相机位姿、指代分割和 3D 关键点预测等多种视觉任务。GenCeption 在多个基准上达到 SOTA,匹配或超越 DepthAnything3、SAM3、D4RT、VGGT-Omega 等专用模型。视频生成预训练骨干在同等设置下优于 V-JEPA 和 Video MAE 等替代范式。GenCeption 展现出数据与模型缩放特性,仅用 7 到 500 倍更少的训练数据即可达到 D4RT 和 VGGT-Omega 的同等性能。模型仅用合成人类视频训练,即可泛化到真实场景及动物、机器人等分布外物体类别。
管理者及其对AI价值的信念、以及如何使用AI,决定了他们从AI中实际获得的价值。一篇关于初创公司的精彩论文。
提示注入已成为AI安全的首要威胁--大语言模型无法区分合法指令与恶意指令。此前推送式和拉取式攻击规模均有限。研究人员提出一种名为HalluSquatting的新型拉取式提示注入攻击,首次能组装大规模僵尸网络、执行分布式拒绝服务攻击(DDoS)并大规模感染设备。该攻击可作用于AI编码工具,标志着提示注入攻击从单点突破转向规模化利用。
苹果研究团队提出Weblica框架,通过HTTP级缓存保存网页稳定视觉状态并保留交互行为,结合大语言模型基于真实网站与核心导航技能合成环境,构建可复现、可扩展的训练环境。该框架将强化学习训练扩展到数千个多样化的环境和任务。最佳模型Weblica-8B在多个网页导航基准上超越同等规模的开源模型,推理步骤更少,测试时计算扩展性良好,性能与API模型相当。
LLM-as-a-Verifier 是一种无需额外训练的通用验证框架,通过计算评分 token logits 分布的期望生成连续分数,实现细粒度反馈。该框架在 Terminal-Bench V2(86.5%)、SWE-Bench Verified(78.2%)、RoboRewardBench(87.4%)和 MedAgentBench(73.3%)上取得 SOTA 性能。其细粒度信号可用于 Claude Code 扩展,帮助开发者监控和改进智能体系统,也可为强化学习(如 SAC、GRPO)提供密集反馈,提升机器人学和数学推理基准的样本效率。
Nemotron-Labs-Audex-30B-A3B(Audex)是基于Nemotron-Cascade-2-30B-A3B的MoE大语言模型,采用单一Transformer解码器统一处理文本与量化音频token。训练使用157.4B音频token和320.5B文本token,经多阶段监督训练、文本Cascade RL和多域on-policy蒸馏优化。在音频理解、语音识别/翻译、文本转语音、音频生成及语音到语音生成任务上达SOTA,同时保持原文本LLM的推理、对齐等能力几乎无退化。模型权重已开源。
Vera是一个端到端自动化安全测试框架,通过三阶段自增强流水线对LLM智能体进行规模化的安全检验:文献驱动探索持续发现新兴风险;组合生成跨维度构造可执行安全用例;自适应执行在隔离沙箱中运行异构agent并基于环境状态与工具调用证据验证结果。在OpenClaw、Hermes、Codex、Claude Code四个生产级agent框架上测试,多通道攻击下平均攻击成功率达93.9%。同步发布Vera-Bench,包含1600个可执行安全用例,覆盖124个风险类别。代码已公开。