Hacker News · AI·· 18 giờ trướcĐiểm AI40
LLM rất kém trong việc thiết kế hệ thống AI
LLMs are terrible at designing AI systems
Tóm tắt bằng AI
LLM gặp khó khăn khi thiết kế phần mềm gọi các LLM khác, thường xây dựng những hệ thống ký hiệu vô vọng thay vì thực hiện một lệnh gọi mô hình đơn giản. Tác giả dẫn chứng một công cụ phát hiện mâu thuẫn bộ nhớ, nơi Claude đã lặp đi lặp lại trong nhiều tuần theo một hướng tiếp cận bộ giải không khả thi, và các tác nhân Autodeck của chính ông lại chọn regex thay vì gọi LLM. Ông quy điều này cho mã huấn luyện từ thời tiền-LLM, các môi trường RLVR thiếu quyền truy cập API, và năng lực thiết kế phần mềm yếu.
Nguồn:Hacker News · AI · seangoedecke.com