AI 编程的难点在于第二次改动

Brian Woods 认为，AI 编程智能体让第一次可用的改动变得廉价，但第二次改动才是系统出问题的地方——智能体给支付服务加上重试机制，即便测试通过，也可能导致客户被重复扣款。他提出，在接受一次改动之前必须回答四个问题：规格说明、验证、来源和授权，由智能体提出改动，由独立的工作流产出证据，再由人类批准。他还展示了一份带有失败测试的构建的签名证明可以返回 VERIFIED，因为真实性并不等于可发布。