TechCrunch · AI· Aditya Mehta·· 11 天前AI 评分46
Goodfire 发布"由内而外"AI 智能体监控系统,成本仅为传统方案几分之一
Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost
AI 导读
Goodfire 发布"由内而外"AI 智能体监控系统,通过读取模型内部神经信号而非重复审阅输出,以极低成本检测失控行为。系统首批基于 Kimi K3 构建,测试约 1500 次会话成本约 $51,低于传统方案的 $233–$10000,可捕捉 94% 的恶意黑客会话。系统已面向 Baseten 客户上线,可针对黑客攻击、化学/生物武器滥用和奖励欺骗等风险配置响应策略。
来源:TechCrunch · AI · techcrunch.com