Phần khó của AI Coding: Thay đổi thứ hai
Bắt đầu từ đây
Brian Woods lập luận rằng các tác nhân AI coding làm cho thay đổi đầu tiên chạy được trở nên rẻ, nhưng thay đổi thứ hai mới là nơi hệ thống vỡ. Trong ví dụ của ông, một tác nhân thêm cơ chế thử lại vào một dịch vụ thanh toán có thể tính tiền khách hàng hai lần ngay cả khi các bài kiểm thử vẫn đạt. Ông đề xuất yêu cầu bốn câu trả lời trước khi chấp nhận một thay đổi — đặc tả, kiểm chứng, nguồn gốc và ủy quyền — với các tác nhân đề xuất thay đổi trong khi các quy trình độc lập tạo ra bằng chứng và con người phê duyệt. Woods cũng chỉ ra rằng một chứng thực đã ký của một bản build có các bài kiểm thử thất bại có thể trả về VERIFIED, vì tính xác thực không đồng nghĩa với sẵn sàng phát hành.
Tạo từ các bài viết · cập nhật 11 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIPhần khó của lập trình AI là thay đổi thứ hai
Brian Woods lập luận rằng các tác nhân lập trình AI giúp việc tạo ra thay đổi hoạt động đầu tiên trở nên rẻ, nhưng thay đổi thứ hai mới là nơi hệ thống đổ vỡ — một tác nhân thêm cơ chế thử lại vào dịch vụ thanh toán có thể khiến khách hàng bị tính tiền hai lần ngay cả khi các bài kiểm thử vẫn đạt. Ông đề xuất yêu cầu bốn câu trả lời trước khi chấp nhận một thay đổi: đặc tả, kiểm chứng, nguồn gốc và ủy quyền, trong đó các tác nhân đề xuất thay đổi còn các quy trình độc lập tạo bằng chứng và con người phê duyệt. Ông cũng chỉ ra rằng một chứng thực có chữ ký của một bản dựng có bài kiểm thử thất bại vẫn có thể trả về VERIFIED, vì tính xác thực không đồng nghĩa với sẵn sàng phát hành.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.