研究称AI智能体框架缺乏可观测性

发生了什么

据MIT Tech Review报道，研究指出当前主流AI智能体框架普遍缺乏实时监控与追踪能力，导致开发者难以识别智能体的违规操作或未经授权行为。研究发现，现有框架缺失持久化智能体ID及人类干预记录等关键可观测性数据。专家建议通过OpenTelemetry等标准建立实时监控机制，并呼吁OpenAI、Anthropic、CrewAI及LangChain等开发者集成相关遥测信号，以应对智能体在执行复杂任务时的不可预测性风险。