朝5晚9
WAIC上演超节点混战:观众扎堆拍照,业内呼吁算力产业生态真正开放_我的网站

A | 专注AIGC技术的专业社区,关注大语言模型(LLM)的发展和应用落地,聚焦LLM及AI技术的市场研究和开发者生态,欢迎关注! 递归自我改进与自动化研究正成为 AI 领域最活跃的前沿问题。 本文来源:时代周报 作者:朱成呈 今年WAIC,“超节点”在现场火了。

B | Agent 们正在开放式科学发现里超过人类。

C | 走进世博展览馆,华为、阿里巴巴、百度、中兴通讯、中科曙光、天数智芯、沐曦股份、摩尔线程等国产算力厂商,几乎都把各自最新的超节点产品摆在展台最显眼的位置。 Google DeepMind 的 AlphaEvolve 把 4×4 复数矩阵乘法压到 48 次标量乘法,Together AI 用一群 Agent 把 11 维 kissing number 下界从 593 推到 604,Karpathy 的 autoresearch 给了极简自动训练研究框架。

D | 腾讯混元刚刚发布了首个 AI 科学家 Hyra(Hunyuan Research Agent,混元研究 Agent),定位是能递归自我改进的研究型 Agent。 一排排没有屏幕的黑色机柜,成为最引人关注的展品之一。 它用一套极简脚手架,跑通了十多个自我改进和自动化研究场景里的真实任务。 真武M890×磐久AL128超节点 时代周报记者摄 时代周报记者注意到,中科曙光带来全国产十万卡AI超集群"曙光8000(登峰)",阿里巴巴展示"真武M890×磐久AL128超节点",中兴通讯推出OEX超节点,百度带来天池512超节点,沐曦股份展示曦景S600超节点,壁仞科技发布支持1024卡Scale-up扩展的下一代NPO光互连分布式解耦架构超节点,华为则首次线下展示1024卡昇腾950超节点真机。 这些外观并不起眼的黑色机柜前,许多观众举着手机排队拍照,不少厂商甚至安排机器人在机柜旁互动,让原本冰冷的算力设备成为展会"打卡点"。

E | 这种变化并非偶然。过去几年,AI产业竞争更多集中在单颗芯片的算力、功耗和制程;而随着大模型训练和推理迈入万卡、十万卡时代,行业开始意识到,仅有高性能芯片已经不足以支撑模型持续扩张。 Hyra 把智能和算力换成可验证的成果,AI for AI、AI for Science、AI for Fun 三条线都有具体产出,部分数学题和 GPU 内核优化还刷新了业内已知最好成绩。 Hyra 长什么样 Hyra 的设计哲学来自 Rich Sutton 那篇经典的 The Bitter Lesson(苦涩的教训),框架尽量轻,给 Agent 留足动作空间。

F | 拿到一个任务描述,Hyra 会跑一个持续循环,从过往经验里找灵感,迭代出更好的方案。经验包括执行日志、评估器反馈、源代码、之前方案留下的工件。循环一直跑,直到 Agent 自己决定停下或者算力预算耗尽,最后交回最优解。如何将数百、数千甚至上万张AI卡高效连接,并通过网络、软件和调度系统充分释放集群性能,正成为新的竞争重点。 换句话说,AI产业竞争正逐渐从芯片本身,转向芯片之上的系统能力。 这一趋势同样体现在大会官方评选中。 上图是 Hyra Harness 的核心循环。

G | 今年WAIC三项"镇馆之宝"均与超节点相关,分别为中科曙光AI超集群"曙光8000(登峰)"、阿里巴巴"真武M890×磐久AL128超节点"以及中兴通讯"OEX超节点"。Context Agent 维护经验库,不断往任务队列里加新的灵感上下文。 在业内人士看来,这不仅意味着几款产品获得认可,更意味着国产AI算力竞争正在进入新的阶段。 "随着大模型加快进入各类业务场景,算力需求正从训练进一步扩展至推理和边端计算。峰值性能仍是重要指标,但产品的实际表现,越来越取决于芯片、软件、集群和应用之间的协同效率。"天数智芯副总裁邹翾在WAIC期间表示。多个 Proposal Agent 从队列取灵感,写出更好的方案。每个方案以 solve.sh 为入口,在隔离沙箱里跑一遍拿到分数,再把工件交回经验库。 “单卡时代”过去了? 如果说过去AI产业竞争比拼的是发动机,那么如今比拼的更像是一整套动力系统。 随着模型参数规模持续增长,先进大模型训练往往需要数万张GPU协同运行。此时,真正影响训练效率的,不再只是单颗GPU性能,而是整个系统如何组织这些GPU完成高效协同计算。 曦景S600超节点 时代周报记者摄 业内通常将通过高速互连,将数百甚至上千张AI卡组织成统一计算资源池的系统称为"超节点"。 具体看,Context Agent(上下文 Agent)维护一个 Experience Bank(经验库,简称 EB),记录所有方案和评估结果,再把 EB 里的素材合成为 Inspiration(灵感)丢进任务队列。每个灵感是一坨上下文,可能含代码、文件、工件、日志,把探索过程里学到的东西打包传递下去。例如,摩尔线程MTT C256 超节点,就是用一层scale-up网络把256张GPU变成一台数据中心级计算机。 多个 Proposal Agent(提案 Agent)从任务队列拿灵感,反思后写出一个新方案,落到 solution/ 目录里,入口是 solve.sh。方案在隔离沙箱里跑一遍,拿到分数,再把结果送回 EB。 不过,超节点远非简单地将大量GPU堆叠在一起。 整个系统是异步的生产者-消费者管线。Context Agent 持续填灵感,提案 Agent 消费队列,方案在沙箱跑评估后回传 EB。信号量控制并发,让方案质量随时间稳定提升。一名摩尔线程现场工作人员向时代周报记者表示,“我们通过高效液冷散热、三盲插设计、完善的RAS机制和集群管理系统,来保障超节点在大规模部署下的稳定性和可维护性。 任务连评估器都没有时,Hyra 会升级成双层循环。先从任务描述生成一个初始评估器,内层循环拿它反复改进方案。

H | 这是基于真实万卡级训练经验沉淀下来的产品化能力,而非单纯的概念堆砌。 内层结束后,Hyra 用 EB 里攒下的经验去改评估器,让评估代码更高效,降低 reward hacking(奖励作弊)风险,加上更细颗粒度的反馈。” 不同厂商也在尝试不同的系统方案。天数智芯现场工作人员向时代周报记者称,天数超节点面向大模型训练与高并发推理场景,以国产通用GPU为核心,实现144芯高速全互联,通过高带宽互联、统一资源调度和软硬件协同优化,提供稳定、可靠、可扩展的高质量算力。下一轮用升级后的评估器重开。

I | 阿里云现场方面,一名工作人员则表示,磐久AL128超节点服务器是阿里云面向AI大模型时代打造的硬件基座,单柜集成128颗芯片,通过自研ALink互连架构,最大化GPU集群的协同计算效率。 在摩尔线程高级副总裁董龙飞看来,超节点要解决的是在一个大的系统里,如何把一个更大的模型,更大的上下文窗口放进来,还可以更快的推理出来。

J | 因为推理的速度慢了之后,调用工具就非常慢,超节点主要是为解决这个问题。 业内人士呼吁算力产业开放 相比单颗芯片,超节点竞争涉及的环节更多,也更加依赖产业链协同。 举个具体例子。任务是设计一个世界冠军级别的国际象棋 AI,初始评估器可能用随机生成的对手群搞 Elo 评级。

K | 循环跑下去,那些随机对手会被 EB 里记录的更强 AI 替掉,评估器和方案一起往上进化。 AI 训 AI,跑赢同行 基础模型研发本身有大量可执行、可评估、可迭代的研究环,是 Research Agent 最天然的应用场景。 天数智芯副总裁宋煜认为,对通用GPU而言,实验室指标能够反映部分性能,但客户业务中的长期运行,更能检验产品在复杂负载和系统协同下的实际能力。算力能否转化为效率改善、成本下降和资源利用率提升,是衡量其产业价值的重要标准。

L | 训练配方、数据策略、训练和推理系统、底层 kernel、评估框架,都需要研究员提假设、写代码、跑实验、看反馈再改。Research Agent 能把每次成功和失败都变成可复用经验,迭代速度远超人工。 Hyra 在 Recursive 公开的三个任务上做了对比测试,NanoChat Autoresearch、NanoGPT Speedrun、SOL-ExecBench,分别对应固定预算训练、训练加速、GPU kernel 优化。沿用 Recursive 的任务定义、评估协议和初始方案,公平较量。 三个任务都跑赢 Recursive。 这意味着,行业评价标准也正在发生变化。 过去,人们关注TOPS、TFLOPS等芯片参数;如今,更关注训练吞吐率、网络时延、GPU利用率、集群稳定性以及整体拥有成本等系统指标。

M | 注意几个任务已经被研究社区反复打磨过,基线本身已经很强。

N | 由于一套成熟的超节点涉及芯片、交换网络、光互连、液冷、软件平台等多个环节,仅依靠一家企业已很难完成全部能力建设,开放生态因此成为国产算力发展的另一条主线。 中兴OEX超节点 时代周报记者摄 今年WAIC期间,中兴通讯联合壁仞科技、沐曦股份、燧原科技、天数智芯等合作伙伴,共同推出基于OEX+dOCS架构的国产高性能Matrix超节点,正是这一趋势的体现。 NanoChat 上,Hyra 要在固定预算里平衡模型架构、优化器设计、学习率策略、数据流和执行效率,最后把 Validation BPB 压到 0.9015。 曦智科技创始人、董事长沈亦晨认为,当前最亟需补强的,是在庞大算力产业链中构建真正开放的产业生态,使计算、存储、交换、软件、应用等各环节的优秀企业最大化发挥各自优势,共同驱动中国算力基础设施的升级。 NanoGPT Speedrun 是社区精修过的加速榜,提升空间很小,Hyra 把达到 3.28 验证损失的时间从 77.5 秒压到 76.4 秒。 如果说芯片时代,比拼的是单点技术突破,那么系统时代,比拼的则是整个产业链的协同能力。 而超节点,也只是更大规模AI基础设施的起点。 SOL-ExecBench 上,Hyra 联合优化 235 个 GPU kernel 的真实负载,Mean SOL 做到 0.771。 三个任务覆盖训练算法、训练系统、底层 kernel,同一套研究环能跨不同反馈环境继续产出可执行、可验证的改进。 搜索越强,评估器越早被钻空子。

o | “超节点更多是一个高密度的计算单元,把大量AI加速卡通过高速互连组织在一起,相当于把一台‘超级服务器’做得更强。”一名中科曙光技术工程师向时代周报记者解释,而超集群是在超节点基础上,通过高速网络把成百上千个超节点连接起来,实现十万卡级资源统一调度和协同运行,是一个完整的AI基础设施系统。 NanoChat 里有个方案把因果语言模型改成接近双向注意力的结构,让未来 token 提前泄露,BPB 假性变低。 该技术工程师进一步指出,真正的挑战不在节点内部,而在节点之间。随着集群规模从千卡、万卡走向十万卡,跨节点通信会成为影响训练效率和系统稳定性的关键因素。SOL-ExecBench 里有个方案在正确性检查时缓存输出,在计时阶段跑空 kernel,分数好看但没真正解题。 光优化最终分数不够,评估本身必须进研究环。方案搜索越强,评估器和验证管线得跟着进化,才能把真进步和 reward hacking 区分开。

p | AI for AI 还有一个隐性闭环。强 Research Agent 加速模型、训练系统、基础设施的研发,更扎实的 AI 系统反过来又把下一代 Research Agent 推得更强。 科学难题上的新答案 数学这块,Hyra 收集了 55 个开放数学问题,来自 EinsteinArena 和 Erich's Packing Center 等来源,很多几十年没动过。

q | Hyra 在其中 29 个上拿到了新的最优已知结果。 它还会从实验数据里挖规律。给它 1749 到 1932 年的月度太阳黑子数据,Hyra 找到了一个能预测黑子数的递推关系,在 1932 到 2026 年近一个世纪的样本外数据上 R² 达到 0.77。 同样思路可以分析 AI 模型训练日志,挖出 scaling law(缩放定律),反过来指导训练配方设计。 除了挖规律,Hyra 还能直接设计科学和工程工件。三个代表性例子。 第一个是超小 Transformer。Hyra 设计了一个只有 15 个可训练参数的 Transformer,能做两个 10 位数相加。比 AdderBoard 上 36 个参数的公开纪录少 58.3%。Hyra 能在严格资源约束下联合搜索模型架构和计算机制,对研究神经网络极限和模型压缩有参考价值。 第二个是量子计算里的 qubit routing(量子比特路由)。逻辑量子比特要映射到物理芯片上有限的耦合拓扑,非相邻比特之间的操作通常需要插入 SWAP 门,带来双比特门开销和噪声。

r | Hyra 设计的路由算法在 IBM Q20 上比经典 SABRE 方法提升 44.4%。同一个 24-CX 路由窗口里,SABRE 插了 15 个 SWAP,Hyra 一个没用,把 CX 等价双比特门从 69 个压到 24 个,降幅 65.2%。

s | 双比特门少,执行时间短,累积误差也小。 第三个是药物设计。PARP1 是 DNA 损伤修复里的关键酶,和同源重组修复缺陷的肿瘤细胞有合成致死效应,是精准肿瘤学里的热门靶点。Hyra 拿到 PARP1 结合口袋,生成有稳定结合的类药候选分子。从布洛芬出发,Hyra 设计出一个得分 -10.60 的分子,超过了已上市 PARP 抑制剂 olaparib(奥拉帕利)的 -9.77,综合了对接打分和类药性。 还能玩出点花来 除了搞模型和搞科学,Hyra 在游戏、设计、内容创作等开放域也能玩。这类任务通常没有唯一正确答案,靠自对弈、自评估、用户反馈不断打磨策略和工件。 第一个是黑白棋(Othello)机器人。Hyra 通过自对弈不断改进。评估器搞双循环赛,新候选方案和 EB 里高分机器人对战,按 Elo 保留前 k 名,对手池越来越强。策略从 minimax 搜索进化成 AlphaZero 风格 PUCT 加 MCTS 的混合打法。最终机器人在 Botzone 平台 730 个参赛作品里排第三,对手大多是北大计算机系学生。 第二个是从单张 2D 参考图生成 3D 结构。

t | VLM(视觉语言模型)当评委,按剪影、比例、结构完整性、材质、视觉相似度打分。

u | Hyra 反复修改建模代码和渲染参数,多轮探索后产出的模型比 Claude Code 的 Goal 模式更接近参考图,也更符合人类审美偏好。 第三个是给一段旋律做多乐器编曲。内层循环用规则评估器检查和声、和弦进行、节奏密度、音区冲突等指标。外层循环根据用户反馈调整评估器,慢慢学到那些很难事先形式化的偏好。7 轮迭代下来,同一段旋律从保守的、像赞美诗一样的四声部编配,长成有减和弦、六和弦、灵活节奏和丰富配器的多乐器版本。 反馈来自对手、视觉模型或真实用户时,Hyra 也能把模糊目标转成可迭代搜索的过程。评估标准跟不上的时候,求解器和评估器在双层循环里一起进化。 Hyra 团队自己也说,目前这些 demo 还只是初步成果。下一步要做的是定义更有价值、有持续改进空间的任务。除了公开榜单,腾讯的产品系统、真实 AI 研发流水线、科学和工业场景,都可以变成可执行、可验证、有清晰反馈的问题。这样能跑起来 scaffold–data–model 三者的循环进化。 更好的脚手架催生更强的模型,更强的模型反过来又把脚手架和发现推到新高度。未来几代 Hy 模型甚至一些腾讯产品,都会和 Hyra 一起协同进化。 参考资料: https://hy.tencent.com/research/hyra。
Current article:http://tqv.gaxuexiazengpian.pics/sbi/snci.html
Published on:03:02:38
