AI Coding's Hard Part: The Second Change
เนื้อหานี้ยังไม่มีในภาษาของคุณ จึงแสดงเป็นEnglish
เริ่มตรงนี้
Brian Woods argues that AI coding agents make a first working change cheap, but the second change is where systems break. In his example, an agent adding retries to a payment service can double-charge customers even while tests pass. He proposes requiring four answers before accepting a change — specification, validation, provenance and authorization — with agents proposing changes while independent workflows produce evidence and humans approve. Woods also shows that a signed attestation of a build with failing tests can return VERIFIED, since authenticity is not release readiness.
สร้างจากรายงาน · อัปเดต 10 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIส่วนที่ยากของการเขียนโค้ดด้วย AI คือการเปลี่ยนแปลงครั้งที่สอง
Brian Woods ให้เหตุผลว่า AI coding agents ทำให้การเปลี่ยนแปลงครั้งแรกที่ใช้งานได้นั้นมีต้นทุนต่ำ แต่การเปลี่ยนแปลงครั้งที่สองคือจุดที่ระบบพัง — agent ที่เพิ่มกลไก retry ให้กับบริการชำระเงินอาจเรียกเก็บเงินลูกค้าซ้ำสองครั้งได้แม้การทดสอบจะผ่าน เขาเสนอให้กำหนดคำตอบสี่ข้อก่อนยอมรับการเปลี่ยนแปลง ได้แก่ specification, validation, provenance และ authorization โดยให้ agent เสนอการเปลี่ยนแปลง ขณะที่เวิร์กโฟลว์อิสระเป็นผู้สร้างหลักฐาน และมนุษย์เป็นผู้อนุมัติ เขายังแสดงให้เห็นว่า signed attestation ของบิลด์ที่มีการทดสอบล้มเหลวสามารถคืนค่า VERIFIED ได้ เนื่องจากความถูกต้องแท้จริงไม่ใช่ความพร้อมสำหรับการรีลีส
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม