Hacker News · AI·· 1 ชม. ที่แล้วคะแนน AI38
เราจะแก้ไข AI ได้หรือไม่? วาระการวิจัยสำหรับ LLM ที่ฝึกอย่างมีจริยธรรม
Can We Fix AI?
สรุปโดย AI
บทความชุดใหม่ถามว่า AI สามารถสร้างได้โดยไม่มีการปฏิบัติที่น่ารังเกียจหรือไม่ โดยเริ่มจากคำถามว่า LLM สามารถฝึกได้โดยไม่ใช้ "ข้อมูลที่ถูกขโมย" หรือไม่ ผู้เขียนโต้แย้งว่าการตรวจสอบโค้ดด้วย AI กำลังกลายเป็นสิ่งจำเป็นสำหรับโค้ดที่สำคัญต่อความปลอดภัย แต่หลายคนมองว่าเทคโนโลยีนี้เป็นเรื่องผิดจริยธรรม และถามว่าโมเดลที่ฝึกอย่างมีจริยธรรมจะเทียบเท่า Claude หรือ ChatGPT ในการตรวจจับช่องโหว่ด้านความปลอดภัยได้หรือไม่ ตอนแรกตรวจสอบลิขสิทธิ์และการยินยอมในข้อมูลฝึกของ LLM พร้อมชี้ประเด็นคำถามวิจัยที่ยังเปิดอยู่
แหล่งข่าว:Hacker News · AI · peterbloem.nl