跳到正文
原文
Hacker News · AI 最新· gmays·· 3 天前AI 评分43

AWS 提出 priming 方法:无需从头重训即可将预训练 Transformer 转为混合状态空间模型

Can we change an AI model's architecture without retraining it from scratch?

AI 导读

Amazon Web Services 提出 priming 方法,复用预训练 Transformer 权重作为起点,将混合架构的预训练成本降低超过 99%。在受控对比中 Gated KalmaNet(GKA)表现最佳,其 32B 参数混合模型在推理 benchmark 上与原 Transformer 质量相当,128,000 tokens 上下文下解码速度最快达 2 倍。

来源:Hacker News · AI 最新 · amazon.science