TechCrunch · AI· Aditya Mehta·· 7 天前
Goodfire 发布“由内而外”监控器：以极低成本拦截失控 AI 智能体
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire 推出内部激活监控器，通过探针读取模型工作时的内部信号，而非让第二个模型复查全部输出。在 Kimi K3 测试中，监控约 1,500 个会话仅花费约 51 美元，捕获 94% 的恶意黑客会话，同时运行四个探针使模型响应延迟增加不到 2%。该监控器已向 Baseten 客户开放。
来源：TechCrunch · AI · techcrunch.com