哈佛研究:如何准确评估AI代理性能变化及避免评估偏差
发生了什么
据micro1 · 技术动态10月14日报道,哈佛大学Liu Zhang与micro1首席经济学家Mark Esposito研究了如何准确评估AI代理性能变化。研究跟踪了micro1的AI面试代理Zara五个月,包括2,611次生产面试评分、代理变更日志和候选人的支持工单。结果显示,两位评审员对同一面试的评分相差0.79个标准差,调整后代理改进幅度为+0.53个标准差。评估读数约5周后不再具有信息量,面试投诉率每月相对其他技术票下降10%。
- 跟踪面试时间
- 五个月
- 生产面试数量
- 2,611次
- 评审员评分差异
- 0.79 SD
- 调整后代理改进幅度
- +0.53 SD
报道与来源
1 篇发布方数量不等于独立核验数量。同稿的多个入口保留在对应报道中。
- micro1 · 技术动态一手材料
Can a company tell whether its AI agent is getting better? | micro1
来源关系与证据边界
按已记录的来源角色展示;连线仅表示原生身份流程确认的同稿入口,不表示独立佐证或跨报道引用。
- 一手材料1 个发布入口