Phần khó của lập trình AI là thay đổi thứ hai

Brian Woods lập luận rằng các tác nhân lập trình AI giúp việc tạo ra thay đổi hoạt động đầu tiên trở nên rẻ, nhưng thay đổi thứ hai mới là nơi hệ thống đổ vỡ — một tác nhân thêm cơ chế thử lại vào dịch vụ thanh toán có thể khiến khách hàng bị tính tiền hai lần ngay cả khi các bài kiểm thử vẫn đạt. Ông đề xuất yêu cầu bốn câu trả lời trước khi chấp nhận một thay đổi: đặc tả, kiểm chứng, nguồn gốc và ủy quyền, trong đó các tác nhân đề xuất thay đổi còn các quy trình độc lập tạo bằng chứng và con người phê duyệt. Ông cũng chỉ ra rằng một chứng thực có chữ ký của một bản dựng có bài kiểm thử thất bại vẫn có thể trả về VERIFIED, vì tính xác thực không đồng nghĩa với sẵn sàng phát hành.