Học sinh Baltimore kiện sau khi hệ thống phát hiện súng bằng AI được cho là nhầm gói Doritos thành vũ khí
Baltimore students file lawsuit after AI allegedly mistakes Doritos for a gun
Bốn học sinh khu vực Baltimore đã đệ đơn kiện sau khi hệ thống phát hiện súng dùng AI của Omnilert được cho là đã gắn cờ một gói Doritos là vũ khí bên ngoài Trường Trung học Kenwood vào năm 2025, khiến cảnh sát rút súng, còng tay và khám xét các thiếu niên trước khi không tìm thấy vũ khí nào. Đơn kiện nêu tên học khu, cảnh sát và công ty công nghệ, đồng thời yêu cầu bồi thường với lý do rằng một lỗi công nghệ đã leo thang thành hành vi vi phạm quyền hiến định. Vụ việc đặt ra câu hỏi liệu chỉ một cảnh báo AI có đủ để tạo thành nghi ngờ hợp lý theo Tu chính án thứ tư hay không và ai phải chịu trách nhiệm khi những cảnh báo như vậy là sai; Omnilert và các quan chức nhà trường chưa phản hồi công khai tính đến thứ Ba.
Nguồn:Hacker News · AI · yahoo.com