InfoQ 中国· 作者:Steef-Jan Wiggers·· 5 天前AI 评分61
谷歌发布 GKE Pod 快照基准结果:启动延迟最高降低 89%
GKE Pod 快照可缩短模型加载时间
AI 导读
谷歌发布 GKE Pod 快照基准测试结果:启动延迟最高降低 89%,700 亿参数模型 37 秒加载完毕,80 亿参数模型 15 秒。该功能保存工作负载运行状态(含 CPU 和 GPU 内存)并按需恢复,已于 5 月在 1.35.3-gke.1234000 及更高版本集群正式发布,Pod 需在 GKE Sandbox(gVisor)中运行。
来源:InfoQ 中国 · infoq.cn