跳到正文
原文
Hacker News · AI 最新· aliyunazeer07·· 8 天前AI 评分54

CloudGrip:开源 AI 代理网关,为 LLM API 预算设置上限

Show HN: CloudGrip – Open-source AI proxy to cap LLM API budgets

AI 导读

CloudGrip 是一个基于 Node.js、Express 和 SQLite 的自托管 AI 代理网关,用于管理 LLM API 预算并控制执行循环。其预算熔断功能会在支出达到配置上限时自动停止请求,同时提供实时遥测、请求日志和管理后台。

来源:Hacker News · AI 最新 · github.com