GitHub Copilot受控编程任务实验
对完成任务者条件化后,论文报告处理组71.17分钟、对照组160.89分钟,任务完成时间减少55.8%(95% CI 21%至89%)。原文35名完成者句未单列时间分析的有效分组n;同研究作者的GitHub总结另报告完成率78%/70%,见COPILOT22BLOG,不能将两者当独立复现或据四舍五入比例倒推精确人数。
原文位置:arXiv论文随机分派和Results中完成者条件时间;同研究作者官方总结另列为COPILOT22BLOG;版本 arXiv v1,2023-02-13
不能据此推出:正文称35名开发者来自处理组和对照组完成任务及问卷,但未单列两组时间分析有效n,不能把该句当精确时长分母;作者总结的78%/70%是四舍五入完成率,不用于反推人数。结果条件于任务完成;单一短时JavaScript HTTP服务器任务,不测长期维护或复杂仓库。
核查 2026-10-23 · 所属资料版本 2026-10-24.studies.5 · 来源ID ai-software-engineer--COPILOT22
实际引用在哪里
Copilot RCT:JavaScript HTTP server →
完成者条件的任务完成时间变化;保留原样本和区间,不迁移为本地节时
关系:external-result
现有栈 + IDE/CLI协作Agent →
经路线所引用主张间接支持条件和责任;不证明平台净收益
关系:indirect
2022 Copilot受控实验随机分派95名开发者(45处理、50对照)。完成JavaScript HTTP server任务者的平均用时为71.17 vs 160.89分钟,报告快55.8%(95% CI 21%–89%);同研究作者官方总结另报完成率78% vs 70%及取整后的71/161分钟。 →
该特定JavaScript HTTP server任务的完成者条件时间估计显示Copilot组较快;同研究作者官方总结报告任务完成率78%(Copilot)/70%(对照),但未提供精确时长有效n
关系:arXiv论文与GitHub作者总结对应同一实验,后者仅交叉核对结果,不是独立复现;时间估计条件于完成任务
正负效果研究测量对象不同:短任务时长、熟悉仓库RCT时长、企业任务产出和Agent采用者PR吞吐不可平均成一个行业或本项目节时率。 →
按路线记录质量、时间、吞吐、返工、总成本多个指标
关系:多研究比较;微软研究需披露作者/供应商关系