Goodfire 发布低成本内部激活监控器
热点事件历史事件
Goodfire 发布低成本内部激活监控器
1 篇报道1 个报道来源7 天前更新
先了解这件事
AI 综述
Goodfire 发布了一款监控 AI 智能体的工具：用探针读取模型工作时的内部激活信号，只在探针报警时才让独立模型复查，以降低监控成本。 在 Kimi K3 的测试中，该工具监控约 1500 个会话花费约 51 美元，捕获 94% 的恶意黑客会话，仅将 8.7% 的无害会话送交复查。 该监控目前面向 Baseten 客户开放，主要针对开源模型，可对攻击性黑客、生化武器滥用和奖励作弊等风险设置日志、人工审查或拒绝请求等自动响应。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 00:00
Goodfire 发布内部激活监控，以更低成本捕捉失控 AI 智能体报道时间线
沿着报道，了解事件的不同侧面。
10月9日
- TechCrunch · AIGoodfire 发布内部激活监控，以更低成本捕捉失控 AI 智能体
Goodfire 发布基于模型内部激活的 AI 智能体监控，用探针读取模型工作时的内部信号，只在探针报警时才让独立模型复查。在 Kimi K3 的测试中，监控约 1500 个会话花费约 51 美元，捕获 94% 的恶意黑客会话，同时仅把 8.7% 的无害会话送交复查。该监控已向 Baseten 客户开放，可针对攻击性黑客、生化武器滥用和奖励作弊等风险设置日志、人工审查或拒绝请求等自动响应。