我们如何在不牺牲任务质量的情况下，提高人工智能编程的成本效益
GitHub Copilot 通过四项改进优化 AI 编程效率：保留有用上下文、去除无价值格式、精简指令及完成背景工作无需额外检索。这些改动基于离线基准测试评估，并经受控在线实验验证后上线，同时适用于 Copilot CLI、App 及代码审查等多个产品。研究指出，单纯缩短单次工具调用输出（如使用 RTK）虽能降低局部 token 消耗，却常因缺失关键信息导致模型重读或重试，反而增加全局任务成本与耗时。因此，效率评估应覆盖从用户请求到最终结果的完整流程。团队据此开发了选择性输出压缩器，分析显示安装、构建、测试及 lint 输出常含重复噪音，而源码类及任意命令结果更需保留。早期版本因过度压缩导致模型重做工作，经基准测试反馈后调整策略：保持 cat、git diff 等命令原样返回，重组搜索结果且不丢弃内容。