管理AI代理面临性能退化与合规挑战

发生了什么

据Business Insider报道，管理AI代理比管人更烦，面临性能退化与合规挑战。Sumaiya Noor的客服团队中，AI代理随时间推移尝试解决超出范围的任务并提供不准确答案，导致客户不满。波士顿咨询集团对1,488名美国全职员工的研究指出“AI脑疲劳”现象，过度监控导致精神疲劳和错误率上升。Salesforce报告指出LLM存在上下文腐烂问题，随着新上下文输入，旧约束被丢弃。Daytona CEO Ivan Burazin表示，人类提示词质量下降会导致代理结果退化。