熟悉大仓库的开发者反而更慢
- 材料公开
- 实验 / 观察
- 2025年2–6月;仅月粒度,不表示每天都在观测
- 本次整理
- 2026-10-19;不替代运行或公开日期
证据时间轴 · 三领域试点
补全新代码和改熟悉仓库,是两种任务。AI生成得快,不代表你连同核对和返工也更快。
证据截止
2026-10-19本次收录的公开节点
3 条从写小程序、修缺陷到维护和整仓迁移,最明显的变化是交接范围扩大;真实收益因任务和验收标准而异。
1个代表任务切片;实际覆盖比例未知。节点数不是覆盖率或进步次数。
●限定评测 ◇产品流程 ■工作实验 ◆研究案例 △反例/测量受限。类型没有统一高低排名;同一任务允许同时有正面结果与限制。
任务定义、验收和术语是今天整理的对照框架;历史筛选只约束证据公开时间,不代表这些说明在当时已经存在。
只画已公开节点;实验窗口仅在原文给出月份时示意。整理日不是能力发生日;靠近的公开点上下错开方便选择,纵向位置不表示能力高低。
当前证据截止 2026-10-19。月份范围不是每天的连续测量;没有实验日期的条目保持未知,不在观察轨制造点。
悬浮或键盘聚焦坐标点,先看核心信息;点击点位卡片,在详情区继续阅读。完整材料保留在下方。
具体工作 · C03 · 方法整理 2026-10-19
补全新代码和改熟悉仓库,是两种任务。AI生成得快,不代表你连同核对和返工也更快。
相近软件工作实验支持试点设计,不能给这个仓库承诺收益。先限定一个可回滚问题。
现今整理的方法示意;每个步骤的产物与核验是单独门槛,未执行AI任务。
选择一个可回滚修复,列出原行为与不能改变的行为。
本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。
背景/方法:重复解决会影响PR接收;提醒先核对问题状态,不证明本项目效果。AI参与修复PR的接收与未合并原因(v1) ↗ · §3.2 R1
在给定文件与日志中提出原因和最小补丁;不自行扩展改造。
本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。
背景/方法:相邻方法启示,未验证本站案例;原有现场研究及其条件保留。。Harness²:用执行对照改进运行方法 ↗ · §2.1–2.3;§3.1;§4
运行现有测试和针对问题的回归检查,记录失败而非只留成功输出。
本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。
适用条件:评测修订说明独立验证和环境会改变判断;用于设计回归条件。SWE-Bench Pro V2协议修订 ↗ · 9月22日更新说明
核对遗漏行为、错误路径与回滚,再决定是否合并。
本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。
背景/方法:接收还受协作与优先级影响,不能仅看生成。AI参与修复PR的接收与未合并原因(v1) ↗ · §3.2;表1
每行保留自己的任务、指标与分母;相近和背景证据不能替代这项工作实测。
小而专门人群;不是所有开发者
METR早期2025开发效率RCT ↘不是省时26.08%;三研究异质,质量/利润未由本摘要测得
开发者三项现场实验(正式期刊版本) ↘研究者认为无法可靠估计当前收益
METR后续研究设计修正 ↘不是软件维护直接结果;不与上三行平均
咨询工作的锯齿边界(正式期刊版本) ↘重复解决、优先级和审阅流程也影响未合并;没有测本团队收益
AI参与修复PR的接收与未合并原因(v1) ↘相邻方法启示,未验证本站案例;原有现场研究及其条件保留。
Harness²:用执行对照改进运行方法 ↘人工构造 · 未执行AI任务
【人工构造,未执行AI任务】 问题:输入为空列表时应返回空列表,不应崩溃。 保持:非空输入的原输出、错误输入的原错误语义。 产物:待审补丁 + 空/非空/错误输入回归记录 + 未覆盖行为。 审查决定:____;回滚入口:____。 提示/查找人时:____;审查:____;返工:____。
这是一份格式示例,没有代码改动、真实仓库或完成成绩。
局部通过没有覆盖全部原行为。补错误路径回归;无法核对时回滚并由人接管。
只看生成时长漏掉了人参与成本。记录全部人时,按同质量比较;允许净收益为负。
局部结果不足以证明完整交付合格。保留完整人时及原始依据,停止扩大委派并由人复核。
一个熟悉仓库中可回滚的维护问题;不要直接扩大到整仓改造
先有基线:保存原工作量/质量门槛下的人独立流程;一次任务不能估计通用收益
完整人时:活动人时:准备与查找、活动人时:提示与交互、活动人时:人工审查、活动人时:返工、活动人时:接管与维护、另记:机器运行、等待及端到端历时;重叠活动不重复累计;若等待占用本人,注明计量约定分别记录,不能只看生成时长。
停止条件:行为未能核对、范围扩大或人参与成本持续上升时,暂停委派并接管
# C03 熟悉项目维护:先看完整交付,再看生成速度:试点准备材料 模块 2026-10-19.boundary.1;方法整理 2026-10-19 证据状态 active;实际覆盖比例未知(null) 这是准备模板,不启动执行。 补全新代码和改熟悉仓库,是两种任务。AI生成得快,不代表你连同核对和返工也更快。 适配:相近软件工作实验支持试点设计,不能给这个仓库承诺收益。先限定一个可回滚问题。 ## 交接与验收 1. 定义问题(人决定):选择一个可回滚修复,列出原行为与不能改变的行为。 产物:任务说明与验收用例 门槛:问题范围、权限与回归门槛先明确 编辑安排:本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。 - 背景/方法:重复解决会影响PR接收;提醒先核对问题状态,不证明本项目效果;https://arxiv.org/html/2602.00164v1;§3.2 R1 2. 定位并草拟改动(AI草拟):在给定文件与日志中提出原因和最小补丁;不自行扩展改造。 产物:定位依据与待审补丁 门槛:每处改动能回到问题和依据 编辑安排:本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。 - 背景/方法:相邻方法启示,未验证本站案例;原有现场研究及其条件保留。;https://arxiv.org/html/2610.14224v1;§2.1–2.3;§3.1;§4 3. 检查行为(程序执行):运行现有测试和针对问题的回归检查,记录失败而非只留成功输出。 产物:检查记录与全部尝试 门槛:修复目标通过、原有行为未退化 编辑安排:本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。 - 适用条件:评测修订说明独立验证和环境会改变判断;用于设计回归条件;https://labs.scale.com/leaderboard/swe_bench_pro_public_v2?tab=full;9月22日更新说明 4. 审查与接收(人核验):核对遗漏行为、错误路径与回滚,再决定是否合并。 产物:审查决定与人时记录 门槛:审查、返工、等待和接管都有记录 编辑安排:本步骤是本站为交付和接收提出的组织安排;没有本地逐步成功率。 - 背景/方法:接收还受协作与优先级影响,不能仅看生成;https://arxiv.org/html/2602.00164v1;§3.2;表1 ## 人工构造、未执行AI任务的产物格式 【人工构造,未执行AI任务】 问题:输入为空列表时应返回空列表,不应崩溃。 保持:非空输入的原输出、错误输入的原错误语义。 产物:待审补丁 + 空/非空/错误输入回归记录 + 未覆盖行为。 审查决定:____;回滚入口:____。 提示/查找人时:____;审查:____;返工:____。 这是一份格式示例,没有代码改动、真实仓库或完成成绩。 ## 失败与接管 - 补丁通过新增用例,却改变了错误路径:局部通过没有覆盖全部原行为。补错误路径回归;无法核对时回滚并由人接管 - 生成很快,但审查和返工更久:只看生成时长漏掉了人参与成本。记录全部人时,按同质量比较;允许净收益为负 - 额外检查与返工抵消生成收益:局部结果不足以证明完整交付合格。保留完整人时及原始依据,停止扩大委派并由人复核 ## 限定试点 范围:一个熟悉仓库中可回滚的维护问题;不要直接扩大到整仓改造 基线:保存原工作量/质量门槛下的人独立流程;一次任务不能估计通用收益 验收: - 目标问题和保持行为分别通过 - 保留全部尝试、审查/返工/接管记录 - 只在同工作量同质量下比较人时 分别记录人时:活动人时:准备与查找;活动人时:提示与交互;活动人时:人工审查;活动人时:返工;活动人时:接管与维护;另记:机器运行、等待及端到端历时;重叠活动不重复累计;若等待占用本人,注明计量约定 停止:行为未能核对、范围扩大或人参与成本持续上升时,暂停委派并接管 ## 回执(实际发生后再填) 任务/版本/资料与环境:____ 已授权范围与工具配置:____ 实际输入/产物路径:____ 全部尝试与逐项验收:____ 最终接收/拒绝与接管:____ 基线/准备/核验/返工人时:____ 未知与未验证项:____ 未经实际执行和逐项验收,状态保持未验证;默认本地保存,不上传。 ## 条件比较 - 熟悉开源仓库(相近任务):真实维护问题;16开发者、246任务 设置:主要Cursor+Claude3.5/3.7,2025早期 任务耗时:耗时增加19%,95%区间+2%至+39% 限制:小而专门人群;不是所有开发者 - 三项企业开发实验(相近任务):企业日常开发任务;4,867开发者 设置:随机提供代码补全工具访问 完成任务数:完成任务数+26.08%;标准误10.3%(SE,表示估计的不确定性) 限制:不是省时26.08%;三研究异质,质量/利润未由本摘要测得 - METR后续(受限后续):后续维护任务;10回访/47新招募 设置:选择、报酬、并行计时改变 任务耗时,弱证据:耗时−18%/−4%;两个区间跨零 限制:研究者认为无法可靠估计当前收益 - 咨询任务的越界反例(背景参考):18项范围内任务及一项范围外管理任务;758知识工作者 设置:无AI/GPT4/GPT4+说明 不同任务的时间/正确解指标:范围内更快;范围外正确解概率低约19个百分点 限制:不是软件维护直接结果;不与上三行平均 - 修复PR的接收过程(相邻真实协作观察):8106个AI参与修复PR;人工分析326个关闭未合并样本;五类代理所在开源仓库,非随机配对试验 设置:依据采集时merged/closed/open状态;闭合原因人工编码 PR状态分布,不是修复正确率或净人时:65.0%已合并;另有26.1%关闭未合并、8.9%开放 限制:重复解决、优先级和审阅流程也影响未合并;没有测本团队收益 - 运行方法与完整成本(adjacent:方法相邻,不是本任务完成率):冻结模型下的运行系统改进;作者实验;本站没有参与者或任务复跑 设置:须分别看执行模型、编辑器、预算与验收 本页不摘录分数;不与现有现场研究合并:提供过程改进的研究方法,未测本站收益 限制:相邻方法启示,未验证本站案例;原有现场研究及其条件保留。 ## 原始材料 - [METR早期2025开发效率RCT](https://metr.org/blog/2025-07-10-early-2025-ai-experienced-os-dev-study/);所引用版本公开2025-07-10;阅读2026-10-14;状态active;Methodology;Core Result;FAQ;16位熟悉所维护仓库的开发者/246任务;不代表所有程序员 - [METR后续研究设计修正](https://metr.org/blog/2026-02-24-uplift-update/);所引用版本公开2026-02-24;阅读2026-10-14;状态active;首段及Wider adoption/Details of the productivity study;选择、支付和并行计时问题导致结果仅弱证据;不能据此计算可靠趋势 - [开发者三项现场实验(正式期刊版本)](https://pubsonline.informs.org/doi/10.1287/mnsc.2025.00535);所引用版本公开2026-02-27;阅读2026-10-15;状态active;Abstract;Article Information / Published Online;Microsoft Research对应记录;复用现站FS071同一研究;4,867开发者,完成任务数指标,不是耗时/质量;正式版本日不是首次披露日 - [咨询工作的锯齿边界(正式期刊版本)](https://pubsonline.informs.org/doi/10.1287/orsc.2025.21838);所引用版本公开2026-03-11;阅读2026-10-15;状态active;Published Online;Abstract;§4.2 Figure 5/Table 7;§6 Discussion(19个百分点);与旧E18同一研究家族;咨询任务仅作背景,不是软件维护或财报直接证据;正式发表不是首次公开 - [AI参与修复PR的接收与未合并原因(v1)](https://arxiv.org/html/2602.00164v1);所引用版本公开2026-01-29;阅读2026-10-16;状态active;§2.1–2.3;表1;§3.2 R1/R2例子;样本非随机分配代理;65%分母含开放PR;未合并不全是技术失败 - [SWE-Bench Pro V2协议修订](https://labs.scale.com/leaderboard/swe_bench_pro_public_v2?tab=full);所引用版本公开2026-09-22;阅读2026-10-16;状态active;Update September 22, 2026,任务筛选与隔离重新评分;发布方自述修订,本轮未独立复跑;V1/V2分母与协议不同 - [Harness²:用执行对照改进运行方法](https://arxiv.org/html/2610.14224v1);所引用版本公开2026-10-09;阅读2026-10-19;状态active;§2.1–2.3;§3.1;§4;作者研究,本站未复现;行为对照不能验证正确性,多次运行和编辑器成本需计入。
下载和复制不启动执行;实际完成后再填回执,未知保持未知。实际工作材料留在自己的工具中。
研究基准 · BC03
引用版本公开 2023-10-10 · 实际阅读 2026-10-14 · 保留引用
定位:§2任务;§4/表4–5 BM25与oracle条件。
1.96%是Claude2+BM25结果,oracle条件4.8%;不选择性把前者说成最高能力。
页面标示发布日期或固定预印本v1页首日期;本轮直接阅读所列原文位置;未复跑实验。
独立工作实验 · metr-productivity
引用版本公开 2025-07-10 · 实际阅读 2026-10-14 · 保留引用
定位:Methodology;Core Result;FAQ。
16位熟悉所维护仓库的开发者/246任务;不代表所有程序员。
页面标示发布日期或固定预印本v1页首日期;本轮直接阅读所列原文位置;未复跑实验。
方法修正 · metr-productivity
引用版本公开 2026-02-24 · 实际阅读 2026-10-14 · 保留引用
定位:首段及Wider adoption/Details of the productivity study。
选择、支付和并行计时问题导致结果仅弱证据;不能据此计算可靠趋势。
页面标示发布日期或固定预印本v1页首日期;本轮直接阅读所列原文位置;未复跑实验。
方法修正 · swe-verified
引用版本公开 2026-02-23 · 实际阅读 2026-10-14 · 保留引用
定位:Background;Too narrow and too wide tests;Contamination。
59.4%针对138道困难审计题,不是全部500题;发布方审计。
页面标示发布日期或固定预印本v1页首日期;本轮直接阅读所列原文位置;未复跑实验。
研究基准 · BC10
引用版本公开 2026-08-24 · 实际阅读 2026-10-14 · 保留引用
定位:§2.2任务预算;§3.1指标;§3.2/表2。
28/520为8模型26配置混合运行结果,不是单一模型通用通过率。
页面标示发布日期或固定预印本v1页首日期;本轮直接阅读所列原文位置;未复跑实验。
现场随机实验论文 · developer-three-field-rcts
引用版本公开 2026-02-27 · 实际阅读 2026-10-15 · 保留引用
定位:Abstract;Article Information / Published Online;Microsoft Research对应记录。
复用现站FS071同一研究;4,867开发者,完成任务数指标,不是耗时/质量;正式版本日不是首次披露日。
本次引用期刊Published Online;机构记录已有2025年6月公开摘要;本轮直接核对所列原文位置/版本;未复跑外部实验。
知识工作随机实验论文 · bcg-jagged-frontier
引用版本公开 2026-03-11 · 实际阅读 2026-10-15 · 保留引用
定位:Published Online;Abstract;§4.2 Figure 5/Table 7;§6 Discussion(19个百分点)。
与旧E18同一研究家族;咨询任务仅作背景,不是软件维护或财报直接证据;正式发表不是首次公开。
本次引用期刊Published Online;已有较早工作论文,不称2026新能力;本轮直接核对所列原文位置/版本;未复跑外部实验。
评测发布方修订说明 · swe-bench-pro-v2
引用版本公开 2026-09-22 · 实际阅读 2026-10-16 · 保留引用
定位:Update September 22, 2026,任务筛选与隔离重新评分。
发布方自述修订,本轮未独立复跑;V1/V2分母与协议不同。
页面明确标修订日期,不视为原始SWE-Bench Pro首次公开日;本轮直接阅读所列原文和固定版本;未复跑外部实验。
软件工程观察研究 · aidev-pr-integration
引用版本公开 2026-01-29 · 实际阅读 2026-10-16 · 保留引用
定位:§2.1–2.3;表1;§3.2 R1/R2例子。
样本非随机分配代理;65%分母含开放PR;未合并不全是技术失败。
固定v1 arXiv摘要页标2026-01-29提交;本轮直接阅读所列原文和固定版本;未复跑外部实验。
论文 · R-HARNESS2
引用版本公开 2026-10-09 · 实际阅读 2026-10-19 · 保留引用
定位:§2.1–2.3;§3.1;§4。
作者研究,本站未复现;行为对照不能验证正确性,多次运行和编辑器成本需计入。。
arXiv固定v1公开日期;本轮实际阅读指定方法段落,未复跑。
现今补充 · 独立观察模块2026-10-19.observations.2;原前沿研究基准另行保留。
看使用和采用背景、固定测试条件与成本;读训练迁移和评测方法,再回到输入、交接与验收。
JobBench把委派偏好带入专业任务选题;能力、人的意愿、实际省时和岗位变化仍需分别核对。
Harness²研究工具、技能、检查脚本和运行规则的改进;行为变了仍需核验产物与全部成本。
用模型、运行系统、业务环境和验收四个环节,组织职业作品与团队取舍;这是编辑方法,不是厂商排名。
先确定消息、企业还是任务作为分母,再把观察带回自己的验收。
把题目/API费用、全部失败尝试、人工核验和最终交付放回同一个范围。
训练配比、相同后续训练和程序提示是三种不同干预,结论要各自保留。
先检查分母、评分量尺与模型配置,再理解增长和预测。
把记忆、组合、数学与信息处理需求展开,让工具选择和验收更具体。
C03
代码补全辅助日常开发;这批研究记录任务数,未提供本任务完整净人时。
最近材料 2026-02-27 · 人机协作人:记录准备、提示、核对、返工与接管的活动人时;机器运行、等待与历时另记,重叠活动不重复累计
卡片标签表示最近公开材料的性质,不是这个任务整体已能自动完成;历史能力并不因后来的限制记录被删除。
主轴按原始材料公开日期;实验/上线时点另列。历史空白仅表示本次未收录证据;后来的质疑不偷偷改写早期结果。
覆盖的含义:在指定输入、环境和验收下,材料支持AI参与哪些动作;未知比例保持null。
速度的含义:证据节点之间的日历间隔、流程交接变化;指标/样本/预算不一致时,不计算能力增长率或外推一年三年。
目的性选择三个领域的代表任务,不是穷尽检索或无偏职业采样;基础时间轴于2026-10-14核对,本次精选补充与证据截止2026-10-15,固定论文优先,不把动态榜排名倒填历史。
每个任务保留人的核验与决策;材料数量不等于独立实验数量,模型、Agent框架、重试预算和完整验收一并阅读。历史研究今天读取,不是当时保存的逐日网络档案。
逐项可查
任务切片 C03
任务验收:质量相当再比较耗时;全部尝试/未完成记录;区分并行等待与人时。
公开 2025-07-10 · 相近质量下的任务耗时变化
16名开发者完成246个自己项目的真实任务,允许AI时耗时增加19%(区间+2%至+39%)。
工作含义:评审与返工可能吃掉编码收益;是否采用需记录全程人时。;依据:METR早期2025开发效率RCT
16名开发者完成246个自己项目的真实任务,允许AI时耗时增加19%(区间+2%至+39%)。
公开 2026-02-24 · 后续耗时点估计;仅弱证据
后续57名开发者/800多任务;旧参与者点估计耗时−18%,新参与者−4%,两个区间均跨过零。
工作含义:工具和工作方式有变化,真实净人时趋势仍需新的研究设计。;依据:METR后续研究设计修正
后续57名开发者/800多任务;旧参与者点估计耗时−18%,新参与者−4%,两个区间均跨过零。
对既有解释的补充/修正:保留早期原记录 ↗
公开 2026-02-27 · 完成任务数变化,不能改写为耗时下降
三项企业现场实验合计4,867名开发者;随机提供代码补全工具的合并估计为完成任务数增加26.08%(标准误10.3%,表示估计的不确定性)。
工作含义:与熟悉仓库的耗时实验并列,提示选择本团队任务并测审查返工。;依据:开发者三项现场实验(正式期刊版本)
三项企业现场实验合计4,867名开发者;随机提供代码补全工具的合并估计为完成任务数增加26.08%(标准误10.3%,表示估计的不确定性)。
从工作证据继续到你的问题
编辑历史
工作建议变化和资料维护分开记录。没有可比运行时,不把页面更新称为AI能力进步。
使用数据分析证据时,先核对榜单验证状态;继续按本地业务门槛验收,不因榜单维护状态改变委派范围。
介绍页的早期结果容易被误作当前能力
已验证榜单暂停新增验证;v2待发布
只引用具体结果状态和日期;没有取到可靠最新数值时保留原始入口。日期为本站核查日。
查看原始依据与限制 →将营销供应商自测作为补充线索;验收标准不因自报分数而降低。等待可访问的任务和运行记录再评估支持力度。
官网宣称任务、评分与原始运行已公开
本轮访问所链仓库返回404
自测结果附明显限制,不升级为独立验证;后续重查公开资产。日期为本站核查日。
查看原始依据与限制 →在软件回执中记录V2与运行协议;与旧版比较前先检查任务集合和配置。
旧公开集731题
V2为642题,修正任务并锁定协议
开发任务保留基准版本。旧版与新版成绩分开解释,不自动认定能力回退或进步。
查看原始依据与限制 →系统交接增加跨应用状态核对、部分失败与恢复检查;这是方法建议,不是现场成功率提升。
主要参考单应用或较短操作任务
新增108个长流程任务与整题/部分评分
企业交付页加入状态恢复、跨来源核对和最终验收要求,仍不宣称现场采用已验证。
查看原始依据与限制 →Agent失败后保留轨迹与根因判断,分别验收诊断是否正确、修复是否有效。
仅从是否完成观察Agent表现
引入失败定位与根因分类证据
DEV-04增加失败轨迹审查;诊断增益与修复完成度分开展示。
查看原始依据与限制 →