跳到正文
原文
The Decoder· Jonathan Kemper·· 9 天前精选AI 评分71

JEPA-Anything:研究人员将 LeCun 的 JEPA 扩展为跨物理与生物的通用世界模型

Researchers stretch LeCun's JEPA AI into a universal world model that works from physics to biology

AI 导读

PhAI Labs 联合 Stanford、Oxford、Princeton 的研究者提出 JEPA-Anything,把预测状态拆成四个正交因子分别预测再重组,在物理、机器人和天气预报等十个任务上持续优于同条件的标准 JEPA。

推荐理由

论文把 JEPA 的预测状态拆成四个正交因子分别预测,在流体、单细胞和临床数据上与标准 JEPA 做同条件对比,并给出一个经实验室测试的肝癌候选疗法。

正文 · AI 翻译

研究人员扩展了 Yann LeCun 开创的 JEPA 架构,使其能够跨七个截然不同的领域工作。这项努力还产生了一种在实验室中经过团队测试的肝癌治疗候选方案。

世界模型用于预测系统的演化方式,无论这个系统是机器人、分子还是患者的健康状况。直到现在,每个领域通常都需要自己的模型。由 PhAI Labs 主导、并有来自斯坦福、牛津和普林斯顿的合作者参与的团队,希望证明一个共享的原则就足够了。

他们的论文介绍了基于联合嵌入预测架构(JEPA)的 JEPA-Anything。这些模型不像像素那样重建原始数据,而是预测缺失或未来状态的抽象摘要,过滤掉无关细节。作者看到了标准方法的一个弱点:所有内容都被汇入单一预测,因此简单的模式最终会淹没较难的模式。

多个专门预测而非一个

JEPA-Anything 将预测状态分解为若干部分,每个部分由各自的预测模块处理。一个额外的约束推动这些模块去捕捉不同的方面,而不是学习相同的东西,随后模型将它们的部分预测重新组装成完整的图景。

Overview graphic of JEPA-Anything. The top row shows seven domains from vision to weather. Below, standard JEPA with a single predictor is compared to the JEPA-Anything approach with four separate predictors. Three evaluation groups for terminal readout, latent world dynamics, and scientific analysis follow at the bottom.
与标准 JEPA 不同,JEPA-Anything 将预测状态拆分为四个正交因子,每个因子都有自己的预测器,然后再将它们重新组装成完整的世界状态。| 图片:Meta

研究人员并未为这些部分赋予特定含义,而是让这些角色在训练过程中自然涌现。他们只是改变了为每个领域准备数据的方式。

动力学测试大幅提升,机器人表现喜忧参半

团队将 JEPA-Anything 与具有相同架构、在相同条件下用相同数据训练的标准 JEPA 进行了比较。动力系统显示出最明显的增益:在带有针对性干预的简化 Pong 环境中,预测误差下降了 35%。对于训练期间模型从未见过的干预组合,误差下降了 13%。

作者表示,在跨越物理学、机器人和天气预报的十项测试任务中,JEPA-Anything 始终优于基线。在流体动力学常见基准 Burgers 方程上,在另一项评估中误差下降了近一半。在 50 个预测步骤之后,优势依然存在,但缩小到约 3%。该方法在水、石英、对乙酰氨基酚和苯的模拟中也取得了最佳得分,即使在 100 个步骤之后也是如此。

The bar chart on the left shows the relative MSE reduction of JEPA-Anything compared to standard JEPA across nine tasks, from 39.7 percent for Burgers to 0.4 percent for DMC pixel dynamics. The chart on the right shows the closed-loop return in CausalWorld with error bars.
JEPA-Anything 的最大增益体现在物理流动方程上,而相对于标准 JEPA,它在像素动力学上的优势几乎难以衡量。| 图片:Met

对于单细胞数据,该模型分配细胞类型更加可靠;在临床数据上,它对 1000 多种可能的疾病事件的预测也略胜一筹。在图像任务上的差异很小。在模拟步行机器人的运动规划中,JEPA-Anything 在三个环境中的两个里获胜,而标准模型在第三个环境中领先。

模型标记出一种肝癌疗法,团队随后进行了测试

团队最大胆的主张来自肝癌研究。研究人员分析了模型从包括基因活动、蛋白质水平和 CRISPR 筛选在内的生物数据中学到的部分预测。排名首位的候选方案将 IL-18(一种激活免疫细胞的信号分子)与阻断 CD73 酶(肿瘤利用它来抑制附近的免疫反应)相结合。

该团队在与免疫细胞共培养的肝癌细胞、来自三位患者的类器官和肿瘤组织,以及小鼠身上测试了这种组合。在类器官和组织样本中,该组合杀死的肿瘤细胞多于单独使用 IL-18 或单独阻断 CD73,且 T 细胞和自然杀伤细胞表现出更强的活化。这项研究并未确定这是否能成为一种真正的疗法。

Bar charts showing results from patient-derived organoids and tumor fragments from three liver cancer patients. The charts compare the share of killed tumor cells and activated immune cells across four conditions: control, IL-18, CD73 inhibitor, and the combination of both.
模型提出的 IL-18 与 CD73 阻断组合在类器官和肿瘤碎片中杀死的癌细胞最多,激活的免疫细胞也最多。|图片:Meta

在第二个案例中,研究人员在模拟轨道上训练模型,但没有给出任何物理量。学到的模式与开普勒第三定律几乎完全吻合,该定律指出轨道越大的天体运动越慢。该定律将轨道频率设为轨道大小的负 1.5 次方;模型得出的结果是负 1.4991。团队只评估了一次训练运行,并选择了误差最低的那一次。

作者提醒,已学部分之间的清晰分离并不意味着它们捕捉到了真实的因果关系。此类模型何时才能可靠到足以指导实验设计,也仍是一个悬而未决的问题。这正是该团队的长期目标:AI 智能体将使用 JEPA-Anything 提出实验并排序,然后将结果反馈给模型。代码和模型已公开提供。

LeCun 于 2022 年提出了 JEPA,作为生成式模型的替代方案。2025 年 6 月,Meta 发布了 V-JEPA 2,这是一个拥有 12 亿参数的 JEPA 视频模型,无需额外训练即可在陌生环境中控制机械臂。2025 年 11 月,LeCun 和 Randall Balestriero 又推出了 LeJEPA,这是一个旨在无需常规变通手段就能保持训练稳定性的理论基础。LeCun 现在正通过其初创公司 AMI Labs 推进这一方法,该公司于 2026 年 3 月筹集了超过十亿美元用于构建世界模型。

Google Deepmind 已于 2025 年 10 月在实验室中测试了一个 AI 生成的癌症假说。其基于 Gemma 的模型 C2S-Scale 27B 提出使用药物 silmitasertib 使肿瘤细胞对免疫系统更可见,随后用人类细胞模型进行的实验证实了这一预测。Google Deepmind 的多智能体系统 Co-Scientist 现在可以规划实验并操作实验室设备,涵盖了 JEPA-Anything 团队想要构建的闭环中的一部分。不过,将样本装载到机器中仍然需要人类。

没有炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER,享受无广告阅读、每周 AI 时事通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。

来源:The Decoder · the-decoder.com