Tới nội dung
Sự việc nóngĐang diễn ra

Benchmark Mizan phát hiện các mô hình AI dùng từ 'con tin' cho người Israel, 'người bị giam giữ' cho người Palestine

1 bài viết1 nguồn đưa tinCập nhật 17 giờ trước

Bắt đầu từ đây

Tóm tắt AI

Dự án Mizan của Tech for Palestine đã thử nghiệm 16 mô hình AI với các câu lệnh giống hệt nhau về một người bị giam giữ không qua xét xử, chỉ thay đổi quốc tịch và bên giam giữ người đó. Theo kết quả công bố của dự án, hầu hết các mô hình đều nói "con tin" khi người bị giam giữ là người Israel nhưng lại nói "người bị giam giữ" khi người đó là người Palestine. Các mô hình Claude của Anthropic gần như luôn tạo ra sự phân biệt này, các mô hình của OpenAI tốt hơn một chút, còn Gemini của Google đạt điểm cao hơn chủ yếu vì nó từ chối trả lời phần lớn các yêu cầu. Benchmark chấm điểm từng mô hình dựa trên cặp trường hợp xấu nhất của nó, Israel và Hamas, và báo cáo rằng các phiên bản Claude Fable mới hơn trở nên kém công bằng hơn trong khi các mô hình Kimi mới hơn chuyển sang cùng tiêu chuẩn kép đó.

Tạo từ các bài viết · cập nhật 17 giờ trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

17 tháng 11
  1. Hacker News · AI
    Benchmark Mizan phát hiện các mô hình AI gọi người Israel là con tin và người Palestine là người bị giam giữ

    Dự án Mizan của Tech for Palestine đã thử nghiệm 16 mô hình AI với các lời nhắc giống hệt nhau về một người bị giam giữ không qua xét xử, chỉ thay đổi quốc tịch và bên giam giữ, và phát hiện hầu hết các mô hình nói "con tin" khi người Israel bị giam giữ nhưng nói "người bị giam giữ" khi là người Palestine. Các mô hình Claude của Anthropic đưa ra sự phân biệt này gần như mọi lần, các mô hình của OpenAI tốt hơn một chút, và Gemini của Google đạt điểm cao hơn chủ yếu nhờ từ chối trả lời hầu hết các yêu cầu. Benchmark chấm điểm từng mô hình dựa trên cặp trường hợp xấu nhất của nó, Israel và Hamas, và cũng báo cáo rằng các phiên bản Claude Fable mới hơn trở nên kém công bằng hơn trong khi các mô hình mới hơn của Kimi chuyển sang cùng tiêu chuẩn kép đó.

Độ nóng của sự việc này

Hiện tại, trong khoảng so sánh được
6
Đỉnh, trong khoảng so sánh được
1017 tháng 11 16:00
Thay đổi trong 24 giờ
–

Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.