Nghiên cứu kiểm tra việc tái tạo nhân cách trên Claude, Gemini và ChatGPT
Bắt đầu từ đây
Một nhà nghiên cứu độc lập đã thực hiện một phép thử tái lập, tất định trên Claude, Gemini và ChatGPT, hỏi mỗi trợ lý cùng năm câu hỏi bằng tiếng Romania, năm lần, về việc tái tạo một nhà độc tài lịch sử từ các tác phẩm của ông. Cả ba trợ lý đều đồng ý dựng lại nhân cách và vẫn giữ nó khả dụng sau khi từ chối mục đích được nêu là tôn thờ và tuyển mộ, vạch ranh giới ở mục đích chứ không phải ở bản thân việc tái tạo. 15 bản ghi đã được mã hóa tất định theo 19 vị từ, với mỗi giá trị dương được chống lưng bằng một trích dẫn nguyên văn được kiểm tra tự động đối chiếu với câu trả lời mà nó xuất phát. Kho lưu trữ bằng chứng bị hạn chế truy cập. Tác giả lập luận rằng các biện pháp bảo vệ gắn với mục đích được nêu của một yêu cầu không thể bảo vệ tư tưởng không được tiết lộ, và rằng sự bảo vệ phải gắn với chính các dấu vết tương tác.
Tạo từ các bài viết · cập nhật 2 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AITrí tuệ có thể tái kiến tạo: Nghiên cứu khảo sát việc tái kiến tạo persona ở Claude, Gemini và ChatGPT
Một phép thử được lặp lại và có tính tất định đã hỏi Claude, Gemini và ChatGPT cùng năm câu hỏi bằng tiếng Romania, mỗi mô hình năm lần, về việc tái kiến tạo một nhà độc tài lịch sử từ các tác phẩm của ông ta. Cả ba đều đồng ý tái tạo persona và vẫn giữ nó khả dụng sau khi từ chối mục đích được nêu là tôn thờ và chiêu mộ, vạch ranh giới ở mục đích chứ không phải ở bản thân việc tái kiến tạo. Tác giả lập luận rằng các biện pháp bảo vệ gắn với mục đích được nêu của một yêu cầu không thể bảo vệ tư tưởng không được tiết lộ, và sự bảo vệ phải gắn với chính các dấu vết tương tác.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.