跳到正文
原文
InfoQ 中国· 作者:Steef-Jan Wiggers·· 5 天前AI 评分61

谷歌发布 GKE Pod 快照基准结果:启动延迟最高降低 89%

GKE Pod 快照可缩短模型加载时间

AI 导读

谷歌发布 GKE Pod 快照基准测试结果:启动延迟最高降低 89%,700 亿参数模型 37 秒加载完毕,80 亿参数模型 15 秒。该功能保存工作负载运行状态(含 CPU 和 GPU 内存)并按需恢复,已于 5 月在 1.35.3-gke.1234000 及更高版本集群正式发布,Pod 需在 GKE Sandbox(gVisor)中运行。

来源:InfoQ 中国 · infoq.cn