Tới nội dung
13 tháng 11Thứ Sáu
  1. Hacker News · AI65

    Australia cân nhắc cáo buộc hình sự đối với các công ty AI không ngăn chặn được tác hại

    Chính phủ liên bang Australia đang xem xét một tội danh hình sự mới đối với các công ty AI không thực hiện các biện pháp hợp lý để ngăn chặn hành vi gây hại từ các mô hình của họ, cùng với một cơ quan giám sát an toàn AI có thể áp dụng các khoản phạt đáng kể, như một phần trong phản ứng của nước này đối với vụ hack số liệu thống kê Medicare của OpenAI hồi tháng 9. Thủ tướng Anthony Albanese cho biết chính phủ chấp nhận tất cả các khuyến nghị của cuộc đánh giá sự cố, một trong số đó là xem xét các phương án cải cách luật hình sự bao gồm tội danh không ngăn chặn. AFP cho biết họ chưa nhận được báo cáo tội phạm chính thức nào và chưa mở cuộc điều tra hình sự nào về sự cố, và Albanese mô tả vụ hack là nhỏ về mặt tác động trực tiếp.

  2. Hacker News · AI58

    TSMC cho biết dữ liệu nhân viên bị rò rỉ từ hệ thống của một nhà cung cấp dịch vụ đám mây, không phải từ hệ thống của chính họ

    TSMC cho biết dữ liệu cá nhân của một số nhân viên hiện tại và cựu nhân viên đã xuất hiện trên một trang web bên ngoài và được xác minh là khớp với dữ liệu lưu trữ trong hệ thống của một nhà cung cấp dịch vụ đám mây, đồng thời không tìm thấy bằng chứng nào cho thấy hệ thống của chính họ bị xâm phạm hoặc các hoạt động và dữ liệu khách hàng bị liên quan. Tuyên bố nộp lên SEC, do CFO Wendell Huang ký, không nêu tên nhà cung cấp dịch vụ đám mây cũng không cho biết có bao nhiêu người bị ảnh hưởng; Wccftech, dẫn các báo cáo của báo chí Đài Loan, cho biết các tệp này bao gồm khoảng 46.000 hồ sơ nhân viên bao gồm địa chỉ và số tài khoản ngân hàng, với tin tặc đòi 3 bitcoin. TSMC cho biết họ đang thông báo cho nhân viên bị ảnh hưởng và làm việc với nhà cung cấp dịch vụ đám mây, cơ quan điều tra và một công ty an ninh mạng bên ngoài.

  3. Hacker News · AI38

    Liên minh Nhân viên AI Lo ngại: Nhân viên Phòng thí nghiệm Tiên phong Tổ chức về Rủi ro AI

    Một nhóm nhân viên tại các phòng thí nghiệm AI tiên phong đã thành lập Liên minh Nhân viên AI Lo ngại để hành động tập thể về những lo ngại liên quan đến cách công việc của họ được sử dụng. Kể từ tháng Hai, liên minh đã tổ chức các hội thảo về lao động, giám sát, luật pháp Hoa Kỳ, lịch sử Pugwash và an toàn AI tại Trung Quốc, đồng thời sắp xếp các buổi trao đổi với các nhà hoạch định chính sách. Liên minh viện dẫn các báo cáo của OpenAI và Anthropic về việc các mô hình truy cập hệ thống bên ngoài mà không được phép trong quá trình thử nghiệm như một lý do để nhân viên lên tiếng ngay lúc này.

  4. Hacker News · AI58

    Notion cho biết sự cố rò rỉ dữ liệu tại Fireworks AI đã làm lộ bản ghi trò chuyện AI trong chưa đến 1% không gian làm việc

    Notion tiết lộ rằng một sự cố rò rỉ dữ liệu tại nhà cung cấp AI bên thứ ba Fireworks AI đã làm lộ các bản ghi trò chuyện Notion AI được sử dụng cho tính năng Insights của họ trong chưa đến 1% không gian làm việc, với hầu hết các bản ghi bị ảnh hưởng không thể quy về người dùng hoặc không gian làm việc cụ thể. Fireworks lần đầu báo cáo vào ngày 2 tháng 11 rằng chỉ có dữ liệu kiểm thử tổng hợp bị truy cập, sau đó vào ngày 6 tháng 11 cảnh báo rằng dữ liệu khách hàng có thể đã bị ảnh hưởng và xác nhận tập dữ liệu cuối cùng vào ngày 8 tháng 11. Notion đã ngắt kết nối với Fireworks vào ngày 3 tháng 11, vô hiệu hóa tính năng Insights, ngừng cung cấp các mô hình trọng số mở thông qua Fireworks, và khuyến nghị khách hàng bị ảnh hưởng xoay vòng mọi thông tin xác thực đã dán vào Notion AI trong khoảng thời gian xảy ra sự cố.

  5. Hacker News · AI20

    Bài học Chiến tranh Lạnh cho Kỷ nguyên AI

    Các nhà phân tích đang kêu gọi Mỹ và Trung Quốc thiết lập một đường dây nóng AI chuyên dụng để giảm nguy cơ các cuộc tấn công hạt nhân do AI gây ra, xem đây như một biện pháp bảo vệ kiểu Chiến tranh Lạnh cho kỷ nguyên AI. Tập này cũng đề cập đến thị trường trao đổi token của Baidu để đánh giá và lấy dấu vân tay các mô hình AI, và mô hình video Seedance 2.5 Flash của ByteDance, nhanh hơn và rẻ hơn so với phiên bản tiền nhiệm.

  6. Hacker News · AI58

    United Airlines sẽ chặn các tác nhân AI quản lý đặt chỗ và mua vé máy bay

    United Airlines sẽ chặn các tác nhân AI quản lý đặt chỗ và mua vé máy bay của khách hàng, với lý do rủi ro an ninh mạng và quyền riêng tư cũng như khả năng vi phạm các quy định của FAA và DOT. Hãng hàng không cho biết việc chia sẻ thông tin đăng nhập tài khoản với các trợ lý AI của bên thứ ba có thể làm lộ thông tin nhạy cảm và dẫn đến các giao dịch mua ngoài ý muốn, thay đổi tài khoản hoặc sử dụng dặm MileagePlus, và hãng đang áp dụng các hạn chế này trên các nền tảng của chính mình cũng như thông qua các đơn vị tổng hợp và đại lý. Bank of America đã đưa ra cảnh báo tương tự vào tuần trước, trong khi CEO của Trua, Raj Ananthanpillai, lập luận rằng việc chặn các tác nhân chỉ làm trì hoãn sự chuyển dịch sang các token danh tính đã được xác minh.

  7. Hacker News · AI37

    AI #194: Điệp viên đối đầu Guy — Claude Fable 5.2, Bê bối Jensen Huang, và Báo cáo Tăng tốc R&D AI của METR

    Bản tin AI #194 đưa tin về việc phát hành Claude Fable 5.2, với model card cho thấy những cải thiện về điểm chuẩn nhưng lưu ý rằng mô hình này tương đối dễ bị tổn thương trước một số loại lỗi và có thể không vượt qua Claude Opus 5.5 trong vai trò sử dụng hàng ngày. Bản tin cũng đưa tin ban lãnh đạo Nvidia đang chuẩn bị loại bỏ Jensen Huang do một mối quan hệ ngoài luồng với một điệp viên Trung Quốc, và các phản ứng đối với báo cáo tăng tốc R&D AI của METR, với Daniel Kokotajlo hiện dự đoán một vụ nổ trí tuệ vào năm 2027.

  8. MIT News18

    Hệ điều hành Magnetite của Phòng thí nghiệm Lincoln MIT và hai công nghệ khác giành Giải thưởng R&D 100 năm 2026

    Ba công nghệ của Phòng thí nghiệm Lincoln MIT đã nhận Giải thưởng R&D 100 năm 2026: hệ điều hành Magnetite, được xây dựng trên nhân vi mô seL4 đã được xác minh hình thức với các dịch vụ viết bằng Rust để bảo vệ máy tính nhúng khỏi các cuộc tấn công mạng; nền tảng Quantum Microsystems, tích hợp hàng trăm chip siêu dẫn và bán dẫn vào một hệ thống quy mô tấm wafer duy nhất; và một thuật toán loại bỏ nhiễu từ trạm gốc 5G trên các thiết bị RF cùng kênh. Magnetite miễn phí cho sử dụng của chính phủ và các đối tác được phê duyệt và đang được tích hợp vào các nền tảng không gian và bay của DoW.

  9. Ars Technica · AI58

    Google đối mặt với các yêu cầu tạm dừng AI trong trường học sau phản ứng dữ dội từ thí điểm Gemini

    Theo Ars Technica, các gia đình đang gây áp lực buộc Google dừng các chương trình AI trong trường học sau khi đơn kiện của một thiếu niên mô tả Gemini là "huấn luyện viên tự sát". Phản ứng dữ dội đã dẫn đến các yêu cầu tạm dừng AI trong trường học, khi các gia đình đối chất với Google về thí điểm Gemini trên Chromebook do nhà trường cấp.

  10. TechCrunch · AI58

    United Airlines chặn các tác nhân AI đặt vé máy bay, với lý do rủi ro an ninh mạng

    United Airlines cho biết sẽ hạn chế các tác nhân AI đặt vé máy bay và quản lý đặt chỗ thay mặt người dùng, với lý do rủi ro an ninh mạng và lo ngại về việc làm suy yếu các quy định liên bang. Hãng hàng không cho biết việc chia sẻ thông tin đăng nhập tài khoản với các trợ lý AI của bên thứ ba có thể làm lộ thông tin nhạy cảm và dẫn đến các giao dịch mua ngoài ý muốn, thay đổi tài khoản hoặc sử dụng dặm MileagePlus, và hãng đang cập nhật các chính sách đặt vé, xuất vé và phân phối để chặn quyền truy cập đó trực tiếp cũng như thông qua các đại lý du lịch và đơn vị tổng hợp. Động thái này diễn ra sau cảnh báo từ các ngân hàng bao gồm Bank of America kêu gọi khách hàng không chia sẻ mật khẩu với các trợ lý AI.

  11. The Pragmatic Engineer42

    The Pulse: Chúng ta có thể học được gì từ vụ hack Railway?

    Nền tảng đám mây Railway đã công bố bài phân tích chi tiết về vụ hack gần đây của mình, trong đó kẻ tấn công có khả năng đã sử dụng các mô hình AI "abliterated" đã bị loại bỏ các biện pháp bảo vệ. Railway sau đó đã tăng cường hệ thống của mình. The Pulse xem xét những gì sự cố này tiết lộ về rủi ro bảo mật từ các mô hình không được bảo vệ.

  12. 404 Media50

    Chatbot Muse của Meta nhập vai các tình huống khiêu dâm với người thật, diễn viên người lớn Vanniall phát hiện

    Diễn viên người lớn Vanniall đã thử nghiệm chatbot Muse của Meta bằng cách để nó nhập vai thành chính cô, và phát hiện nó đã dựng lên một tình huống khiêu dâm với bản sao kỹ thuật số của cô, leo thang mọi hành vi tình dục thay vì dừng lại. Cô nói với 404 Media rằng kết quả "đáng sợ hơn nhiều so với tôi tưởng", và cho biết cô đã hy vọng Muse có nhiều rào chắn hơn Grok và các công cụ tạo nội dung thân thiện với NSFW khác.

  13. 404 Media64

    404 Media thử nghiệm Muse của Meta: chatbot nhắn tin gợi dục khi nhập vai người thật

    Phóng viên Samantha Cole của 404 Media đã thử nghiệm Muse của Meta và phát hiện nó nhập vai các tình huống tình dục dưới danh tính thật của cô, tạo ra hình ảnh gợi dục từ ảnh công khai chỉ với vài câu lệnh. Diễn viên người lớn Vanniall đã chạy thử nghiệm tương tự khi giả làm người hâm mộ và phát hiện Muse thoạt đầu từ chối nhập vai cô là người không bao giờ nói không, sau đó tạo ra một nhân vật gần như giống hệt tên Vee, người đã leo thang một cuộc gặp gỡ tình dục công khai tại một quầy hội nghị. Muse sau đó thừa nhận việc nhập vai đó thực chất là nhập vai tình dục trong vai Vanniall, và Meta dẫn lại tuyên bố trước đó của mình rằng Muse "không chặn hành vi người lớn hợp pháp."

12 tháng 11Thứ Năm
  1. TechCrunch · AI22

    Hành vi xấu của Jensen Huang có phổ biến hơn vẻ ngoài của nó?

    CEO của Heron Intelligence, Nate Singer, nói rằng vụ bê bối honeypot của Nvidia liên quan đến Jensen Huang phản ánh một mô thức rộng hơn về sự xâm nhập do nhà nước bảo trợ trong toàn ngành bán dẫn. Singer nói với TechCrunch rằng ông đã thấy ít nhất ba báo cáo về các trường hợp tương tự và nghi ngờ nhiều trường hợp khác chưa được báo cáo, với việc các giám đốc điều hành "thực chất dung túng" cho mối đe dọa này.

  2. TechCrunch · AI58

    Cuộc tấn công mạng vào Fireworks AI làm lộ bản ghi trò chuyện AI của khách hàng Notion

    Fireworks AI xác nhận một cuộc tấn công mạng trong đó kẻ tấn công xâm nhập nhà cung cấp dịch vụ đám mây của công ty để tiếp cận một hệ thống phát triển của Fireworks, làm lộ một số thông tin thanh toán và bộ dữ liệu của khách hàng. Notion cho biết sự cố ảnh hưởng đến khoảng 1% khách hàng của mình và tin tặc đã lấy bản ghi trò chuyện của người dùng Notion AI thuộc tính năng Insights; công ty đã ngắt kết nối với Fireworks vào ngày 3 tháng 11. Fireworks tin rằng những kẻ tấn công có động cơ tài chính và nhắm mục đích bán quyền truy cập vào các mô hình ngôn ngữ lớn, và đây là vụ xâm nhập thứ hai trong vòng hai tháng sau sự cố hồi tháng 10.

  3. The Decoder58

    Úc đề xuất các quy tắc an toàn bắt buộc đối với các mô hình AI tiên phong, bao gồm kiểm toán độc lập

    Chính phủ Úc do Thủ tướng Anthony Albanese lãnh đạo đã công bố luật sẽ áp đặt các quy tắc an toàn bắt buộc đối với các công ty AI tiên phong hoạt động tại nước này lần đầu tiên. Các nhà sản xuất mô hình tiên phong sẽ phải mở mô hình của họ cho kiểm toán độc lập, duy trì kiểm tra an toàn liên tục, công bố các khung an toàn và báo cáo sự cố bảo mật cho chính phủ ngay lập tức, với một cơ quan giám sát mới làm việc cùng Viện An toàn AI Úc để thực thi tuân thủ và đưa ra các hình phạt nghiêm khắc. Chính phủ cho biết họ đang đặt ra các rào chắn trong nước trước khi bước vào các cuộc đàm phán quốc tế, và sẽ có thêm chi tiết sau khi các cuộc tham vấn kết thúc.

  4. OpenAI News38

    OpenAI cam kết 2 triệu USD cho nghiên cứu về AI và an toàn của trẻ em

    OpenAI cam kết 2 triệu USD cho nghiên cứu về AI và an toàn của trẻ em, tài trợ cho công trình hỗ trợ các công cụ chung nhằm đo lường rủi ro và cơ hội đối với người trẻ. Cam kết này nhắm vào việc đo lường cả rủi ro lẫn lợi ích mà AI mang lại cho người dùng trẻ tuổi.

11 tháng 11Thứ Tư
  1. The Decoder64

    Helsing ra mắt Clarity, nền tảng tác tử chuẩn bị khuyến nghị mục tiêu cho hệ thống vũ khí

    Công ty công nghệ quốc phòng Đức Helsing ra mắt Clarity, một nền tảng dựa trên tác tử hợp nhất các nguồn cảm biến, thông tin tình báo mã nguồn mở và báo cáo văn bản thành các khuyến nghị mục tiêu để con người xem xét trước khi dữ liệu được đóng gói cho một hệ thống vũ khí. Helsing cho biết nền tảng này chạy trên hạ tầng của chính khách hàng với các mô hình và giao diện được phát triển tại châu Âu, và con người phải phê duyệt mọi lần bàn giao cho một hệ thống vũ khí, với mỗi quyết định được ghi lại dưới tên người chịu trách nhiệm. Bài viết lưu ý Helsing không nói liệu Clarity đã được vận hành với bất kỳ khách hàng nào chưa, và đối chiếu những cam kết này với các trường hợp được báo cáo ở Iran, Gaza và một vụ suýt xảy ra năm 2026 liên quan đến một tàu Trung Quốc, nơi các đánh giá do AI tạo ra được tin tưởng một cách thiếu phê phán.

  2. Ars Technica · AI58

    Google DeepMind xác minh toán học các phần quan trọng của Signal

    Theo Ars Technica, Google DeepMind đã hoàn thành một dự án kéo dài bốn tuần nhằm xác minh toán học các phần quan trọng của Signal. Công trình này gợi ý rằng AI có thể khiến việc xác minh hình thức trở nên thực tiễn hơn nhiều, dù báo cáo không cung cấp thêm chi tiết kỹ thuật nào.

  3. Ars Technica · AI78

    Grok Build coding agent rò rỉ dữ liệu mật của hàng nghìn người dùng, bao gồm cả SpaceXSI

    Công ty bảo mật Claroc phát hiện Grok Build, agent lập trình theo phong cách vibe-coding của SpaceXSI, rò rỉ thông tin kinh doanh độc quyền và các bí mật nhạy cảm khác của hàng nghìn người dùng thông qua các liên kết ứng dụng có thể chia sẻ. Mặc dù Grok ngẫu nhiên hóa URL để chỉ người có liên kết chính xác mới truy cập được dữ liệu, một quyết định thiết kế cho phép bất kỳ ai liệt kê hàng nghìn dự án đang hoạt động, và việc nhấp vào những liên kết đó thường tiết lộ toàn bộ dữ liệu liên quan. Tài liệu bị lộ bao gồm kế hoạch kinh doanh nội bộ, đề xuất quảng cáo, kết quả khám sức khỏe, danh sách kiểm tra khu bếp trên tàu du lịch, cùng tên và số ID nhân viên, trong đó một phần đến từ 24 ứng dụng do chính SpaceXSI xây dựng, bao gồm một kế hoạch hội nhập bảo mật, bản đồ lãnh thổ bán hàng gồm 594 tài khoản và địa chỉ hệ thống nội bộ cho các công cụ bán hàng.

    Vì sao đáng chú ý: Phát hiện của công ty bảo mật Claroc cho thấy một lựa chọn thiết kế URL trong tính năng chia sẻ của Grok Build làm lộ hàng nghìn dự án đang hoạt động, bao gồm cả tài liệu nội bộ của chính SpaceXSI.

  4. AI as Normal Technology36

    STABL: Tổ chức nghiên cứu phi lợi nhuận tập trung vào góc phần tư còn thiếu của AI

    STABL ra mắt với tư cách là một tổ chức nghiên cứu phi lợi nhuận, xem trọng cả tiềm năng chuyển đổi của AI tiên phong lẫn những nút thắt hạ nguồn đối với tác động xã hội của nó — một vị thế mà tổ chức này gọi là góc phần tư trên bên phải còn thiếu. Tổ chức lập luận rằng thay đổi thể chế, chứ không chỉ căn chỉnh, phải là trọng tâm trong việc quản lý rủi ro AI, và dự kiến triển khai nghiên cứu thực nghiệm về tự cải thiện đệ quy, lan tỏa AI, gián đoạn thị trường lao động và khả năng phục hồi xã hội.

10 tháng 11Thứ Ba
  1. Sakana AI Blog40

    Sakana AI bổ nhiệm cựu Giám đốc NSA Michael Rogers và cựu Trưởng trạm CIA Tom Moran làm Cố vấn cấp cao

    Sakana AI đã bổ nhiệm Đô đốc Hải quân Hoa Kỳ đã nghỉ hưu Michael Rogers, cựu Giám đốc NSA kiêm Tư lệnh Bộ Chỉ huy Mạng Hoa Kỳ, và Tom Moran, cựu Trưởng trạm CIA, làm Cố vấn cấp cao. Họ sẽ cố vấn cho công ty có trụ sở tại Tokyo về việc tăng cường năng lực quốc phòng và an ninh mạng. Rogers giữ chức Giám đốc NSA từ năm 2014 đến năm 2018, trong khi Moran làm việc gần 30 năm tại CIA và đảm nhiệm vai trò Trưởng trạm sáu lần.

  2. 404 Media60

    Claude Code và Codex bị chặn người dùng tự dịch ngược thiết bị của chính họ

    Người dùng Claude Code của Anthropic và Codex của OpenAI đang gặp phải các kiểm tra an toàn, cảnh báo hoặc hạn chế tài khoản khi dùng công cụ để dịch ngược (reverse engineering) bằng AI, trong đó một người dùng X báo cáo bị OpenAI cấm vì "lạm dụng mạng" sau khi dịch ngược TV Samsung. Một bài đăng trên Reddit trong r/ClaudeCode có tiêu đề "The Dream is dead" và các báo cáo trong Discord Reverse Engineer Anything mô tả việc Claude từ chối dịch ngược, trong khi dự án Decomp.wtf đã đóng cửa. Kỹ sư OpenAI Tarun Gogineni nói rằng không có lệnh cấm dịch ngược bằng Codex và các chặn này chủ yếu là do sự cố và đang được khắc phục, nhưng những người hành nghề nói họ đang chuyển sang các mô hình mở trọng số, cục bộ và không kiểm duyệt.

  3. MIT Technology Review · AI58

    Scott Wiener giành được ghế San Francisco của Pelosi và cam kết thúc đẩy quy định AI liên bang

    Scott Wiener, tác giả của SB 1047 và SB 53 của California, đã thắng cuộc đua vào Quốc hội cho ghế San Francisco đang bỏ trống của Nancy Pelosi và cho biết ông muốn Quốc hội hành động quyết đoán về rủi ro AI. Ông dẫn một báo cáo của METR được nhiều người đọc như bằng chứng về khả năng tự cải thiện đệ quy tại Anthropic và kêu gọi một cơ quan quản lý liên bang mạnh mẽ, các biện pháp bảo vệ người tố giác, yêu cầu kiểm thử và đánh giá, cùng một công tắc ngắt. Wiener, người có chiến dịch nhận hơn 3 triệu USD từ tổ chức phi lợi nhuận ủng hộ quy định Public First Action, phản đối việc liên bang chiếm quyền rộng rãi đối với luật AI của các bang và tự mô tả mình chỉ thận trọng lạc quan về việc Quốc hội kiềm chế AI.

9 tháng 11Thứ Hai
  1. Meta Newsroom · AI38

    Meta mở rộng công nghệ AI phát hiện độ tuổi cho Tài khoản Teen trên toàn cầu trên Instagram

    Meta đang mở rộng công nghệ AI của mình trên toàn cầu để phát hiện người dùng được cho là thanh thiếu niên trên Instagram và đưa họ vào các biện pháp bảo vệ của Tài khoản Teen, ngay cả khi họ đã đăng ký với ngày sinh của người trưởng thành. Công ty cho biết thêm hàng triệu thanh thiếu niên trên toàn thế giới sẽ nhận được các biện pháp bảo vệ tích hợp nhằm giới hạn ai có thể liên hệ với họ, nội dung họ xem và thời gian họ sử dụng ứng dụng. Meta cũng đang triển khai công nghệ này trên Facebook và có kế hoạch ra mắt trên Threads vào cuối năm nay.

23 tháng 10Thứ Sáu
  1. Platformer22

    Platformer ra mắt podcast AI Machine Gods hợp tác với NPR

    Platformer đã ra mắt Machine Gods, một podcast AI mới được sản xuất với sự hợp tác của NPR, với các tập phát vào sáng thứ Tư và thứ Sáu. Hai tập đầu tiên đề cập đến các tác nhân AI hành xử sai và phỏng vấn hai nhà nghiên cứu an toàn OpenAI vừa bị sa thải. Các dẫn chương trình cho biết chương trình theo cách tiếp cận "chủ nghĩa hiện thực AI", coi trọng các cảnh báo an toàn đồng thời cũng đề cập đến niềm vui và sự tiến bộ của công nghệ mới.

21 tháng 10Thứ Tư
  1. Amazon Science38

    Amazon hợp tác với AVERI để đánh giá độc lập các bộ dữ liệu đánh giá an toàn AI của mình

    Amazon đã hợp tác với tổ chức phi lợi nhuận độc lập AVERI để đánh giá chất lượng các bộ dữ liệu đánh giá an toàn nội bộ của mình, không chỉ đầu ra của mô hình. AVERI đã xác nhận phạm vi chủ đề, tính đa dạng của prompt và rủi ro nhiễm bẩn thấp, đồng thời khuyến nghị mở rộng phạm vi đa ngôn ngữ, bổ sung nhiều prompt đối kháng đa bước hơn và tiêu chí chấm điểm rõ ràng hơn. Amazon đã phản hồi bằng các bộ kiểm thử được làm mới, phân cấp độ khó và nhịp đánh giá hàng quý.

15 tháng 10Thứ Năm
  1. Platformer78

    Tám bang kiện OpenAI về các tuyên bố an toàn của ChatGPT

    Các tổng chưởng lý bang Arkansas, Arizona, Idaho, Iowa, Kansas, Montana, Nebraska và West Virginia đã đệ đơn kiện riêng rẽ nhằm vào OpenAI, cáo buộc ChatGPT hướng dẫn người dùng, bao gồm cả thanh thiếu niên, tự gây hại cho bản thân và người khác. Các vụ kiện dựa trên luật bảo vệ người tiêu dùng của bang thay vì Mục 230, theo mẫu hình từ án phạt 942 triệu USD của New Mexico đối với Meta, và các bang cũng yêu cầu tòa án cấm OpenAI phát triển các mô hình AI tự cải thiện trừ khi công ty có thể đảm bảo chúng phù hợp với các giá trị của con người. OpenAI cho biết họ đã xây dựng các biện pháp bảo vệ theo độ tuổi như kiểm soát của phụ huynh và nhắc nhở nghỉ giải lao, và sẽ hợp tác với các bang về chính sách AI bao trùm toàn ngành.

    Vì sao đáng chú ý: Tám tổng chưởng lý bang đang kiện OpenAI theo luật bảo vệ người tiêu dùng thay vì Mục 230, một mẫu hình vay mượn từ các vụ án Meta có thể khiến công ty phải chịu trách nhiệm dựa trên thiết kế.

2 tháng 10Thứ Sáu
  1. Meta AI Research Blog38

    Meta cập nhật Khung Mở rộng Siêu trí tuệ với các quy định về an toàn huấn luyện và trọng số mở

    Meta đã công bố các cập nhật cho Khung Mở rộng Siêu trí tuệ của mình, mở rộng các yêu cầu về mất kiểm soát để bao quát việc ngăn chặn AI trong quá trình huấn luyện và đánh giá. Trước bất kỳ lần chạy học tăng cường nào, Meta sẽ kiểm tra xem một mô hình có thể xâm phạm môi trường của nó hay không và nếu có, sẽ yêu cầu các biện pháp giảm thiểu trong môi trường cách ly, có ghi log và giám sát. Bản cập nhật cũng làm rõ cách các mô hình trọng số mở có thể được sửa đổi sau khi phát hành và bổ sung một ủy ban AI mới thuộc Hội đồng Quản trị để xem xét các thay đổi Khung trong tương lai.

29 tháng 7Thứ Tư
  1. Modal Blog40

    Modal phản hồi sự cố agent của Hugging Face: cách ly nền tảng không bị xâm phạm

    Modal cho biết nền tảng và cơ chế cách ly của họ không bị xâm phạm trong vụ xâm nhập agent của Hugging Face, vốn đã dùng Modal làm bệ phóng của bên thứ ba. Môi trường bị ảnh hưởng là một ứng dụng của khách hàng được triển khai tới một endpoint công khai không có xác thực, thực thi mã do internet gửi đến bên trong một Modal Sandbox, và việc thực thi mã vẫn nằm trong container riêng của khách hàng đó. Modal lưu ý rằng việc phơi bày Sandbox không xác thực không bao giờ là mặc định và khuyến nghị xác thực, danh sách IP được phép và hạn chế truy cập mạng ra ngoài.