Tới nội dung
Chỉ Chính chủ#Dữ liệu / huấn luyện
13 tháng 11Thứ Sáu
  1. NVIDIA Newsroom22

    AI đang giúp các nhóm chăm sóc đưa bệnh nhân đến đúng dịch vụ chăm sóc, sớm hơn như thế nào

    Công cụ lập luận lâm sàng Synapsis AI của Dyania Health đọc mọi ghi chú, báo cáo và kết quả xét nghiệm trong hồ sơ bệnh nhân, kết nối các phát hiện cách nhau nhiều năm để đánh dấu những bệnh nhân cần được chú ý và lý do, với mỗi tín hiệu đều có thể truy nguyên về nguồn. Nó chạy trên nền tảng tính toán tăng tốc NVIDIA bên trong tường lửa của chính hệ thống y tế, nên dữ liệu bệnh nhân không bao giờ rời khỏi bệnh viện. Cleveland Clinic đã sử dụng nó để rà soát hồ sơ của hơn 7.800 bệnh nhân thay van động mạch chủ từ năm 2005 đến 2021 và xây dựng một mô hình dự báo về thoái hóa van và nguy cơ can thiệp lại ở các mốc ba, năm và mười năm.

  2. Databricks Blog36

    Bright Machines dùng Debezium và Iceberg để cung cấp cho khách hàng bảng điều khiển trực tiếp từ các nhà máy cách ly mạng

    Bright Machines hiện cung cấp cho khách hàng bảng điều khiển dữ liệu nhà máy trực tiếp, có quản trị từ các nhà máy cách ly mạng mà không cần mở bất kỳ quyền truy cập vào nào. Công ty ghi lại các thay đổi PostgreSQL tại biên với Debezium, ghi chúng dưới dạng Apache Iceberg, đẩy ra ngoài qua một đường ra duy nhất có thể kiểm toán, và đọc tại chỗ trong Databricks thông qua liên kết Unity Catalog. Bảng điều khiển đầu tiên mà khách hàng nhìn thấy đã đi vào hoạt động khoảng hai tháng sau khi khởi động, với các hàng đã cam kết có thể truy vấn trong một đến hai phút và bảng điều khiển làm mới mỗi mười phút.

  3. Microsoft Research22

    Microsoft Research Focus Edition #98: Dịch thuật AI, chứng minh giả thuyết KLS và tác nhân lập trình nhanh hơn

    Microsoft Research Focus Edition #98 nêu bật những tiến bộ AI đưa dịch thuật phổ quát đến gần thực tế hơn và một chứng minh mới giải quyết giả thuyết KLS đã tồn tại 31 năm trong hình học chiều cao. Ấn bản cũng đề cập CompactionBench và APEC, giúp giảm chi phí nén ngữ cảnh của tác nhân lập trình tới 25,4% và thời gian thực thi 9,6%, cùng với Latent Core Tokenizer, cải thiện token hóa trên 104 ngôn ngữ.

  4. Databricks Blog30

    Databricks bác bỏ bốn lầm tưởng về LTAP trong kiến trúc Lakebase

    Databricks phản hồi bốn cách hiểu sai phổ biến về LTAP, kiến trúc Lakebase giữ một bản dữ liệu vận hành duy nhất được quản trị, phục vụ cả Postgres lẫn phân tích mà không cần CDC. Bài viết lập luận LTAP không phải sao chép: các lớp phía trước hồ dữ liệu là bộ nhớ đệm, không phải cơ sở dữ liệu thứ hai có catalog riêng. Bài viết cũng nói rằng heap page và Parquet là hai cách mã hóa không mất mát của cùng các hàng, nên tra cứu điểm và quét mỗi bên đọc bố cục nhanh cho mình.

  5. AWS Machine Learning Blog38

    Tokenomics ở quy mô lớn: Theo dõi và giới hạn chi tiêu Amazon Bedrock theo từng IAM Principal với CUR 2.0 và AWS Budgets

    AWS hướng dẫn cách theo dõi và giới hạn chi tiêu cho AI tạo sinh Amazon Bedrock theo từng IAM principal chỉ bằng các tính năng gốc: Bedrock tự động ghi lại IAM user hoặc role trên mỗi yêu cầu suy luận, và các thẻ đó trở thành thẻ phân bổ chi phí có thể đọc được trong Cost Explorer hoặc các bản xuất CUR 2.0. Một AWS Budget giới hạn phạm vi cho Bedrock và lọc theo một danh tính hoặc giá trị thẻ có thể gắn một hành động ngân sách áp dụng chính sách Deny IAM khi vượt ngưỡng, không cần mã ứng dụng cho trường hợp thông thường.

  6. Hugging Face Blog69

    IBM phát hành các mô hình xem trước LLMON được xây dựng trên Granite 4.1 3B và 8B

    IBM đã phát hành hai mô hình xem trước thử nghiệm, granite-4.1-3b-LLMON-preview và granite-4.1-8b-LLMON-preview, được phát triển từ các checkpoint cơ sở Granite 4.1 và được huấn luyện để tiếp nhận và tạo ra LLMON, một ngôn ngữ đánh dấu bản địa của LLM đánh dấu chỉ dẫn, dữ liệu và yêu cầu bằng các dấu phân cách token đặc biệt dành riêng. Trên bộ đánh giá OPI, các mô hình tránh được nhiều hơn 47% các cuộc tấn công chèn prompt gián tiếp so với mô hình tiên tiến nhất được thử nghiệm và nhiều hơn 95% so với mô hình mã nguồn mở tốt nhất, đồng thời hoạt động ngang bằng với Granite 4.1 Instruct trên các bộ đánh giá tiêu chuẩn. Bản phát hành bao gồm một bộ công cụ GitHub với các bộ chuyển đổi JSON sang LLMON không mất dữ liệu, và các tác giả lưu ý rằng bản xem trước dành cho mục đích khám phá, không phải để sử dụng trong môi trường sản xuất.

    Vì sao đáng chú ý: IBM đã huấn luyện một mô hình xem trước trên Granite 4.1 có thể đọc và ghi các thẻ LLMON, sử dụng việc tách biệt rõ ràng giữa chỉ dẫn và dữ liệu để giảm tỷ lệ thành công của các cuộc tấn công chèn prompt gián tiếp trên bộ đánh giá OPI xuống gần bằng không trong khi vẫn duy trì các khả năng chung.

  7. Databricks Blog22

    Constellation xây dựng nền tảng dữ liệu có quản trị trên Databricks như thế nào

    Constellation, đơn vị vận hành đội hạt nhân lớn nhất Hoa Kỳ, đang xây dựng Nền tảng Dữ liệu Doanh nghiệp có quản trị trên Databricks để mang lại cho doanh nghiệp một ý nghĩa chung cho dữ liệu của mình. Nền tảng này sử dụng Unity Catalog cho phả hệ, quyền truy cập chi tiết và một mô hình phân quyền duy nhất, cùng với mô hình hóa Data Vault cho các thực thể quan trọng có thể tái sử dụng. Các trường hợp sử dụng ban đầu bao gồm một trợ lý kỹ thuật hạt nhân được xây dựng với Databricks Genie và lập kế hoạch ngừng hoạt động.

  8. Databricks Blog25

    Eclipse Aerospace sử dụng nguồn dữ liệu tùy chỉnh Databricks PySpark để nhập dữ liệu chuyến bay

    Eclipse Aerospace đang sử dụng nguồn dữ liệu tùy chỉnh Databricks PySpark để nhập gần 20 năm dữ liệu chuyến bay độc quyền, hơn 3TB trải rộng trên hơn một triệu giờ bay, mà không cần tính toán chuyên dụng luôn bật. Gói Python được hỗ trợ bởi Rust đã mang lại hiệu suất gấp đôi so với chuẩn đánh giá của một nguồn dữ liệu Python thuần dựa trên PyArrow tương tự và gần 20 lần so với triển khai Python gốc không có Arrow. API, được giới thiệu trong Apache Spark 4.0 và có sẵn trong Databricks Runtime 15.4 LTS, thay thế quy trình Lambda-to-Avro trước đó.

  9. Databricks Blog22

    H6.ai xây dựng tự động hóa tài chính bằng AI với Lakebase Postgres như thế nào

    H6.ai tự động hóa các khoản phải trả trên nền ERP hiện có của khách hàng, sử dụng một cơ sở dữ liệu Lakebase Postgres riêng cho từng khách hàng làm hệ thống lưu trữ gốc. Vì dữ liệu hóa đơn liên tục thay đổi, nhóm sử dụng các nhánh copy-on-write của Lakebase để đóng băng ảnh chụp nhanh cơ sở dữ liệu khách hàng và chạy từng bài kiểm tra hồi quy trên nhánh ngắn hạn riêng của nó, nhờ đó cơ sở dữ liệu trực tiếp không bao giờ bị ghi vào. Mỗi lần chạy được đánh giá bằng các khẳng định tất định cùng một hội đồng giám khảo AI đến từ các nhà cung cấp mô hình khác nhau.

  10. Databricks Blog58

    Databricks ra mắt Lakehouse//RT để phục vụ phân tích thời gian thực mà không tăng chi phí tương ứng

    Databricks giới thiệu Lakehouse//RT, một engine phân tích thời gian thực chạy các khối lượng công việc có độ đồng thời cao trực tiếp trên dữ liệu lakehouse và hiện đang ở giai đoạn beta. Công ty cho biết nó đạt độ trễ dưới 100 mili giây với 12.000 truy vấn mỗi giây, bổ sung dung lượng từng node một và tránh cần một lớp phục vụ riêng; các khách hàng Aurasell, VisionHeight và nOps báo cáo chi phí hạ tầng thấp hơn 6 đến 10 lần sau khi chuyển từ các thiết lập đa cụm, Apache Pinot và Apache Druid.

12 tháng 11Thứ Năm
  1. Meta Newsroom · AI18

    Meta ký các thỏa thuận mua dài hạn đối với xi măng, thép, vận tải đường bộ và nhựa tái chế phát thải carbon thấp

    Meta đã ký một loạt cam kết mua dài hạn bao gồm xi măng, thép, vận tải đường bộ và nhựa tái chế nhằm đưa sản xuất sạch lên quy mô thương mại trong chuỗi cung ứng trung tâm dữ liệu của mình. Các thỏa thuận bao gồm ít nhất 180.000 tấn xi măng phát thải carbon thấp từ Sublime Systems, thép gần như không phát thải từ Stegra có trụ sở tại Thụy Điển, tuyến vận tải hàng hóa không phát thải mở rộng với Nevoya dọc theo I-10 ở California và Arizona, và 5.000 tấn PET tái chế mỗi năm với MacroCycle Technologies.

  2. Hugging Face Blog36

    Hugging Face phát hành hướng dẫn và script fine-tune cho TRELLIS.2 tạo sinh 3D

    Hugging Face đã công bố các script và container fine-tune cho TRELLIS.2, một mô hình tạo sinh 3D, có thể chạy cục bộ hoặc trên Hugging Face Jobs. Hướng dẫn sử dụng LoRA adapter thông qua thư viện PEFT chỉ trên sparse-structure flow DiT và shape flow DiT, giữ nguyên giai đoạn material. Trên tập con 188 đối tượng giày dép của bộ dữ liệu GSO, mô hình tiền huấn luyện thường render sai đế giày, và đây là mục tiêu mà fine-tune LoRA nhắm tới.

  3. AWS Machine Learning Blog46

    Phát hiện và khắc phục lỗi hỏng dữ liệu âm thầm trên Amazon SageMaker HyperPod

    Một vòng lặp huấn luyện PyTorch DDP trên Amazon SageMaker HyperPod được bổ sung ba bước kiểm tra nhằm phát hiện lỗi hỏng dữ liệu âm thầm: kiểm tra gradient không hữu hạn, kiểm toán phát lại vòng so sánh bit loss và dấu vân tay gradient giữa các node, và so sánh dấu vân tay trọng số sau bước tối ưu hóa. Được thử nghiệm với lỗi tiêm phần mềm trên 4 instance ml.p5.48xlarge (32 GPU NVIDIA H100), các bước kiểm tra chỉ ra rank nghi ngờ, ánh xạ rank đó tới một node, và cho phép HyperPod thay thế node và tiếp tục từ checkpoint.

  4. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML Track: Hướng dẫn cho người tham dự

    AWS sẽ tổ chức hội nghị re:Invent thường niên từ ngày 30 tháng 11 đến ngày 4 tháng 12, với track AI/ML cung cấp hơn 140 phiên độc đáo trong tổng số hơn 2.000 phiên học tập. Hướng dẫn này ánh xạ các phiên vào ngăn xếp AI của AWS, bao gồm chip AI (AWS Trainium và NVIDIA GPUs), mô hình và suy luận trên Amazon Bedrock và SageMaker AI, và phát triển tác nhân với Amazon Bedrock AgentCore. Các phiên được tổ chức từ nội dung cho người mới đến các buổi đào sâu kỹ thuật, và nhiều phiên có thể xem theo yêu cầu.

  5. Google Research58

    Google Research sử dụng thiết bị đeo để xây dựng hồ sơ rủi ro CKM và huấn luyện cá nhân hóa

    Google Research đã giới thiệu một khung nghiên cứu chuyển dữ liệu từ thiết bị đeo tiêu dùng thành tuổi sức khỏe có thể huấn luyện và mô phỏng các quỹ đạo sức khỏe giả định cá nhân hóa trong 12 tuần. Mô hình thế giới SensorWM được tiền huấn luyện trên 2,28 triệu tuần-người dữ liệu Fitbit đã khử nhận dạng từ khoảng 100.000 người dùng và dự báo 20 chỉ dấu sinh lý dưới các chế độ đi bộ, ngủ và tim mạch khác nhau. Trong một nghiên cứu mù, các huấn luyện viên lối sống chọn kế hoạch dựa trên phản thực tế là tốt nhất tổng thể trong 71,4% đánh giá, và các bác sĩ đánh giá 99,2% kế hoạch nằm trong giới hạn cường độ tập luyện an toàn; các tác giả lưu ý các mô hình là nguyên mẫu nghiên cứu, không phải công cụ chẩn đoán lâm sàng.

  6. Meta Engineering Blog40

    Meta Intelligent Delivery: Hệ thống ML phân bổ năng lực tính toán cho xếp hạng quảng cáo

    Meta đã trình bày chi tiết về Intelligent Delivery, một hệ thống do ML dẫn dắt, phân bổ năng lực tính toán trên toàn bộ ngăn xếp phục vụ quảng cáo của mình hướng tới mức tối ưu toàn hệ thống, đóng góp khoảng 10% hiệu suất xếp hạng gia tăng trên nền các tiến bộ về mô hình và hệ thống từ năm 2017 đến nửa đầu năm 2026. Resource Core Model của hệ thống sử dụng 6B tham số thưa và 20M tham số dày để dự đoán tiện ích biên của từng yêu cầu, và Meta cho biết hệ thống đã cải thiện khả năng nhận diện các yêu cầu quảng cáo có tác động cao thêm khoảng 20% trong các đánh giá ngoại tuyến. Hệ thống cũng dựa vào các cơ chế phân bổ đa tầng và AI ngày càng mang tính tác tử để thích ứng khi mô hình và phần cứng thay đổi.

11 tháng 11Thứ Tư
  1. Google DeepMind72

    DeepMind phát hành AlphaGenome 2, mô hình DNA dự đoán tác động của biến thể trong từng loại tế bào cụ thể

    Google DeepMind công bố AlphaGenome 2, mô hình chuỗi DNA thế hệ mới dự đoán cách các chuỗi DNA và biến thể của chúng ảnh hưởng đến các loại tế bào người cụ thể. Được huấn luyện trên hơn 107 triệu hồ sơ tế bào riêng lẻ thuộc 68 mô, mô hình có điều kiện này xác định được gần gấp đôi số biến thể làm thay đổi biểu hiện so với mô hình trước đó, và trên bộ dữ liệu tế bào miễn dịch TenK10K, nó thu hồi được 30% biến thể nhân quả so với 16% của AlphaGenome gốc được tinh chỉnh trên dữ liệu đơn bào. Mô hình có sẵn cho nghiên cứu phi thương mại qua AlphaGenome API và ở chế độ xem trước riêng tư cho nghiên cứu thương mại.

    Vì sao đáng chú ý: AlphaGenome 2 chuyển từ giá trị trung bình trên toàn mô sang điều kiện hóa theo từng tế bào, gần như tăng gấp đôi khả năng thu hồi biến thể nhân quả trên dữ liệu tế bào miễn dịch, điều này quan trọng để liên kết tín hiệu GWAS với các loại tế bào cụ thể.

  2. Hugging Face Blog41

    Huấn luyện nhận biết pooling cho mô hình embedding đa vector với Sentence Transformers

    Hugging Face trình bày cách huấn luyện nhận biết pooling nâng cao chất lượng truy xuất cho các mô hình embedding đa vector với ngân sách lưu trữ cố định. Với pool_factor=4, một mô hình được huấn luyện thông thường giữ được 94,6% nDCG@10 trên NanoBEIR khi chưa pooling, trong khi giảm số vector tài liệu xuống 4 lần, và huấn luyện nhận biết pooling nâng tỷ lệ giữ lại đó lên 97,8%. Bài viết đi qua HierarchicalTokenPooling, hiệu chỉnh ngân sách và một ví dụ Sentence Transformers có thể tái lập.

  3. inclusionAI Models40

    inclusionAI phát hành mô hình ZoomGain-9B và ZoomGain-4B cùng ZoomGainBench và dữ liệu huấn luyện RL

    inclusionAI đã phát hành các checkpoint mô hình thị giác-ngôn ngữ ZoomGain-9B và ZoomGain-4B, cùng với bộ đánh giá ZoomGainBench và dữ liệu huấn luyện RL ZoomGain. ZoomGain khai thác khoảng cách nhận thức từ toàn cục đến thu phóng để xây dựng giám sát thị giác chi tiết, và ZoomGain-9B đạt hiệu suất vượt trội trên nhiều bộ đánh giá nhận thức chi tiết và tổng quát. ZoomGainBench chứa 1.000 câu hỏi trên 941 hình ảnh, trong khi bộ dữ liệu RL có 9.000 bản ghi huấn luyện và 7.713 hình ảnh nguồn.

  4. inclusionAI Models38

    inclusionAI phát hành ZoomGain-4B và ZoomGain-9B cùng ZoomGainBench và dữ liệu huấn luyện RL

    inclusionAI đã phát hành bài báo arXiv, bộ đánh giá ZoomGainBench, tập dữ liệu huấn luyện RL và các checkpoint mô hình ZoomGain-4B/ZoomGain-9B. Mô hình tốt nhất trong 28 mô hình đạt 61,08 trên ZoomGainBench, trong khi ZoomGain-9B đạt hiệu suất vượt trội trên nhiều benchmark nhận thức tổng quát và chi tiết. ZoomGain khai thác khoảng cách nhận thức từ toàn cục đến thu phóng để xây dựng giám sát thị giác chi tiết cho các mô hình ngôn ngữ-thị giác.

  5. Microsoft Research75

    Các nhà nghiên cứu Microsoft mô tả Lazarus, một backdoor lập trình lại các neuron không hoạt động trong các tác nhân AI

    Các nhà nghiên cứu Microsoft đã mô tả Lazarus, một kỹ thuật backdoor lập trình lại ít hơn 10 neuron không hoạt động trong một LLM để một tác nhân xây dựng trên đó phát ra lệnh của kẻ tấn công khi một kích hoạt ẩn xuất hiện, mà không cần huấn luyện lại. Mô hình đã sửa đổi vẫn vượt qua các đánh giá tiêu chuẩn và hoạt động bình thường cho đến khi kích hoạt, có thể đơn giản như một thay đổi ngày tháng, và sau đó tác nhân chạy mã đã tải xuống với bất kỳ quyền truy cập nào được cấp. Các tác giả cho biết việc phát hiện đòi hỏi phải so sánh với trọng số gốc, và Microsoft Foundry đã liên kết các mô hình trọng số mở với nhà phát hành của chúng và quét các container của chúng, trong khi các bộ công cụ red-teaming, quét trọng số dựa trên tác nhân và các mô hình có chữ ký với nguồn gốc chống giả mạo đang được phát triển.

    Vì sao đáng chú ý: Các nhà nghiên cứu Microsoft cho thấy rằng việc lập trình lại ít hơn 10 neuron không hoạt động có thể tạo backdoor cho một tác nhân LLM mà không cần huấn luyện lại, điều này khiến nguồn gốc và tính toàn vẹn của trọng số trở thành một yêu cầu bảo mật thực tế.

10 tháng 11Thứ Ba
  1. Amazon Science62

    Amazon phát hành mô hình nền tảng dạng bảng Mitra-v2 với tiền huấn luyện tổng hợp mở rộng

    Amazon giới thiệu Mitra-v2, mô hình nền tảng dạng bảng thế hệ thứ hai cho phân loại và hồi quy, được phát hành kèm các mô hình đã tinh chỉnh cùng mã suy luận và tinh chỉnh theo giấy phép Apache-2.0 trên Hugging Face. Mô hình được tiền huấn luyện trên các bảng tổng hợp có số hàng gấp 10 lần và số cột gấp khoảng ba lần so với Mitra-v1, sử dụng prior SCM lai mới và bộ tối ưu lai trong khi giữ nguyên kiến trúc Transformer. Trên TabArena, một benchmark công khai gồm 51 bộ dữ liệu thực tế, Mitra-v2 dẫn đầu nhóm mô hình đơn, vượt Mitra-v1 trên 32 trong số 33 bộ dữ liệu mà cả hai chạy gốc, và hoàn thành cả 51 bộ trong giới hạn một giờ; Mitra-v2 đã tinh chỉnh cũng đứng đầu trên ScoringBench.

    Vì sao đáng chú ý: Mitra-v2 cho thấy việc mở rộng dữ liệu tiền huấn luyện tổng hợp, thay vì làm sâu mạng, đưa một mô hình nền tảng dạng bảng lên đỉnh nhóm mô hình đơn của TabArena.

  2. Apple Machine Learning Research34

    Weighted State Souping cho Truy xuất Ngữ cảnh Dài Hiệu quả

    Các nhà nghiên cứu Apple và cộng tác viên Harvard đề xuất weighted state souping, một phương pháp học trọng số phụ thuộc truy vấn để tái tổ hợp các mã hóa trạng thái SSM đã lưu trong bộ nhớ đệm, cải thiện hiệu suất ngữ cảnh dài trên QA tài liệu đơn bước và đa bước, truy xuất needle-in-a-haystack, theo dõi biến và sử dụng công cụ. Một biến thể thưa đạt chi phí mã hóa gần như không đổi theo độ dài ngữ cảnh trong khi vẫn giữ nguyên hoặc đôi khi cải thiện hiệu suất. Bài báo đã được chấp nhận tại hội thảo PALM tại NeurIPS 2026.

  3. Apple Machine Learning Research38

    Nghiên cứu của Apple: Cơ chế gating giải thích tại sao SSM ghi nhớ thay vì học trong ngữ cảnh

    Một nghiên cứu của Apple và Harvard chỉ ra rằng cơ chế gating trong Mô hình Không gian Trạng thái (SSM) khiến chúng trước tiên học một giải pháp "ghi nhớ" trong trọng số, làm chậm trễ hoặc thậm chí ngăn cản việc hội tụ đến học trong ngữ cảnh đúng đắn. Điều này xảy ra ngay cả khi kiến trúc và dung lượng bộ nhớ không đặt ra giới hạn cơ bản nào. Tuy nhiên, gating thường cải thiện khả năng tổng quát hóa cho độ dài chuỗi dài.

  4. Apple Machine Learning Research31

    Nghiên cứu của Apple đánh giá các giám khảo LLM cho việc đánh giá phong cách viết cá nhân hóa

    Các nhà nghiên cứu của Apple đã kiểm tra mức độ mà các giám khảo LLM đánh giá xem văn bản được tạo có phù hợp với phong cách viết ưa thích của người dùng hay không, bằng cách tạo văn bản với bốn LLM trên ba tác vụ viết dài và so sánh chú thích của giám khảo với nhãn so sánh cặp của con người. Chất lượng giám khảo chỉ tương quan yếu với năng lực LLM tổng quát trên MMLU (Pearson's ρ ≤ 0.2) và thay đổi theo tác vụ viết và tiêu chí đánh giá, và so sánh cặp tỏ ra nhất quán hơn so với chấm điểm độc lập. Các LLM mạnh nhất không phải là những mô hình tái tạo đánh giá của con người một cách đáng tin cậy nhất, có thể do độ nhạy cảm quá mức với các chi tiết tinh tế.

  5. Google Research25

    Language Explorer của Google trực quan hóa sự đa dạng ngôn ngữ trên thế giới

    Google đã ra mắt Language Explorer, một nền tảng web tương tác cho phép các nhà nghiên cứu, nhà giáo dục và những người đam mê ngôn ngữ khám phá và trực quan hóa sự đa dạng ngôn ngữ trên hàng nghìn ngôn ngữ. Được xây dựng như một phần của Sáng kiến 1.000 Ngôn ngữ của Google và dựa trên bộ dữ liệu mã nguồn mở LinguaMeta, nó được giới thiệu trong một triển lãm mới tại Bảo tàng Truyền thông Berlin khai mạc tuần này. Google Dịch hiện hỗ trợ gần 250 ngôn ngữ, trong khi Gboard bao phủ hơn 900 biến thể ngôn ngữ.

  6. Goodfire Research62

    Goodfire nghiên cứu các neuron của Qwen3.6-35B-A3B như một nền tảng có thể diễn giải

    Goodfire Research đã công bố một nghiên cứu lập luận rằng các neuron MLP riêng lẻ trong Qwen3.6-35B-A3B có thể diễn giải được hơn so với giả định, dựa trên các công cụ thưa hóa, quy gán và các tác nhân nghiên cứu. Việc loại bỏ 92,2% kích hoạt neuron MoE yếu nhất mỗi lượt truyền xuôi chỉ làm tăng mất mát của mô hình ngôn ngữ thêm 2,9%, và 69% các cực neuron có một chế độ duy nhất chịu trách nhiệm cho ít nhất 90% hiệu ứng nhân quả của chúng. Các mô tả neuron bằng ngôn ngữ tự nhiên cho phép một mô hình giám khảo dự đoán việc kích hoạt với độ chính xác 95% so với văn bản ngẫu nhiên và phục hồi 73% thiệt hại do loại bỏ thông qua mô phỏng.

    Vì sao đáng chú ý: Nghiên cứu của Goodfire về các neuron của Qwen3.6-35B-A3B lập luận rằng chỉ riêng các kích hoạt mạnh đã mang phần lớn tính toán của mô hình, đưa ra một giải pháp thay thế cụ thể cho cách diễn giải bằng từ điển đặc trưng.

9 tháng 11Thứ Hai
  1. Hugging Face Blog38

    NVIDIA và Elith phát hành bộ dữ liệu tổng hợp Nemotron-Personas-Finance-Japan

    Elith và NVIDIA đã phát hành Nemotron-Personas-Finance-Japan, một bộ dữ liệu persona tổng hợp mở cho lĩnh vực tài chính Nhật Bản được xây dựng trên số liệu thống kê chính thức của chính phủ. Bộ dữ liệu chứa 9M persona (1M bản ghi × 9 persona) trên 50 lĩnh vực và ~1,5B token, được tạo bằng NeMo SDG-PGMs và NeMo Data Designer, và có sẵn theo giấy phép CC BY 4.0 cho mục đích thương mại.

  2. inclusionAI Repositories38

    ZoomGain: Khai thác khoảng cách nhận thức từ toàn cục đến thu phóng cho giám sát thị giác tinh vi

    ZoomGain xây dựng các câu hỏi về một hình ảnh đầy đủ từ những chi tiết thị giác chỉ trở nên rõ ràng khi thu phóng, sử dụng khoảng cách nhận thức từ toàn cục đến thu phóng này làm giám sát cho các mô hình ngôn ngữ-thị giác. Bản phát hành bao gồm bài báo arXiv, bộ đánh giá ZoomGainBench (1.000 câu hỏi trên 941 hình ảnh bao gồm nhận dạng thuộc tính, đếm và OCR), 9.000 bản ghi huấn luyện RL trên 7.713 hình ảnh nguồn, và các checkpoint ZoomGain-4B và ZoomGain-9B. Mô hình tốt nhất trong số 28 mô hình đạt 61,08 trên ZoomGainBench, trong khi ZoomGain-9B đạt hiệu suất vượt trội trên nhiều bộ đánh giá nhận thức tinh vi và tổng quát.

  3. Preferred Networks News26

    Hệ thống hướng dẫn viết AI Ronjiro của PFN giành Giải thưởng Đặc biệt AI (Hỗ trợ Học tập) tại Giải thưởng Lớn e-Learning Nhật Bản lần thứ 23

    Hệ thống hướng dẫn viết AI Ronjiro của Preferred Networks đã giành Giải thưởng Đặc biệt AI (Hỗ trợ Học tập) tại Giải thưởng Lớn e-Learning Nhật Bản lần thứ 23. Ronjiro sử dụng AI tạo sinh bao gồm mô hình nền tảng PLaMo do PFN phát triển trong nước để hỗ trợ học sinh trung học học viết luận và bài văn, cung cấp phản hồi về cấu trúc logic và các điểm cần cải thiện chỉ trong vòng một phút. Hệ thống đã được cung cấp từ tháng 3 năm 2026 thông qua YP Switch, một liên doanh với Tập đoàn Yarakis Switch, và hiện đang được giới thiệu tại một số lớp học School IE trên toàn quốc.

6 tháng 11Thứ Sáu
  1. Hugging Face Blog58

    Ai2 phát hành ToyBlocks, một thế giới mô phỏng mở về thao tác khối cho robot học

    Ai2 đã phát hành ToyBlocks, một khung mô phỏng mở được xây dựng xoay quanh một cánh tay robot và các khối trên mặt bàn, là sản phẩm đầu tiên trong FoundationWorlds của họ dành cho việc học và đánh giá robot có kiểm soát. Khung này tự động tạo kỹ năng và bản trình diễn thông qua RL và lập kế hoạch chuyển động trong Isaac Lab, đạt tốc độ lên tới 24 lần thời gian thực trên một GPU, và đi kèm 85.336 bản trình diễn tầm xa bao phủ gần 1.600 giờ và 144 triệu khung hình. Trong các thí nghiệm của mình, tỷ lệ thành công của kỹ năng nguyên tử ManiFlow là 80,0% trong mô phỏng và 81,1% trên Franka FR3 thực tế, trong khi hệ thống Molmo 2 kết hợp ManiFlow thành công trong 55,5% tập mô phỏng và 50,0% tập thực tế.

  2. vLLM Blog77

    REINFORCE Zero: Căn chỉnh kernel cho phép Async RL ổn định ở Policy Lag 64, mở rộng sang DeepSeek-V4.1 và Kimi K3.1

    Bài báo REINFORCE Zero của NVIDIA Research và Inferact cho thấy việc căn chỉnh kernel của rollout và trainer cho phép lấy mẫu quan trọng ở mức token không cắt (unclipped token-level importance sampling) hiệu chỉnh độ trễ trọng số còn lại, huấn luyện ổn định qua 20.000 lần cập nhật ở policy lag 64 và đạt thông lượng bước huấn luyện gấp 2,40 lần so với huấn luyện đồng bộ với kernel đã căn chỉnh. Với kernel tiêu chuẩn, KL trung vị từ rollout đến learner tăng 83,33 lần trong suốt quá trình chạy và pass@1 trực tuyến trên AIME24 giảm từ 34,27% xuống 13,96%, trong khi một sequence gate giúp ổn định huấn luyện nhưng loại bỏ 24,48% chuỗi tính đến 1.000 lần cập nhật cuối. Thiết lập zero-mismatch hiện bao phủ DeepSeek-V4.1-Flash, Kimi K3.1 vào ngày phát hành, cùng DeepSeek-V4-Flash và Kimi K3.1 trên AMD MI355X, với mã nguồn tại Inferact/zero-mismatch-rl và NVIDIA-NeMo/labs-molt.

    Vì sao đáng chú ý: NVIDIA Research và Inferact tách khoảng cách giữa rollout và learner trong async RL thành độ trễ trọng số và sự không khớp kernel, cho thấy việc căn chỉnh kernel cho phép lấy mẫu quan trọng không cắt duy trì huấn luyện ổn định ở policy lag 64.

  3. vLLM Blog55

    VeRL-Omni v0.3.0 ra mắt với huấn luyện bất đồng bộ và hậu huấn luyện đa phương thức mở rộng

    VeRL-Omni v0.3.0 đã được phát hành với các luồng thực thi RL bất đồng bộ và tách rời, V1 trainer là mặc định, và mở rộng phạm vi hậu huấn luyện trên hiểu biết hình ảnh, video, âm thanh và đa phương thức. Bản phát hành bổ sung huấn luyện văn bản và âm thanh Qwen3-Omni hoàn toàn bất đồng bộ, huấn luyện Omni và diffusion bất đồng bộ tách rời với bộ đệm phát lại, và các công thức mới bao gồm MiniMax H3 với DiffusionNFT và MiniCPM-o 4.5 GSPO. Trong một thí nghiệm MiniCPM-o 4.5 AVQA trên 4×H800 80 GB, separate-async 3+1 chậm hơn khoảng 9% mỗi prompt so với colocated 4+0 ở độ dài phản hồi tự nhiên, gần như ngang bằng ở 512 token, và nhanh hơn khoảng 6.7% ở 1024 token.

  4. Anthropic Research60

    Anthropic giải thích các thành phần bộ nhớ của tác nhân Claude

    Anthropic đã phác thảo cách họ thiết kế bộ nhớ cho các tác nhân Claude, định nghĩa bộ nhớ tác nhân là kiến thức được lưu giữ qua các phiên và tách biệt nó khỏi thay đổi trọng số, học trong ngữ cảnh và nén. 5 đã khớp nó với bộ nhớ. 7 đã ghi 413 tệp trên 225 thư mục và giành được một huy hiệu.

    Vì sao đáng chú ý: Anthropic trình bày chi tiết cách bộ nhớ tác nhân của Claude hoạt động, so sánh việc ghi chú của các mô hình trên CL-Bench và Pokémon Red và cho thấy cách mơ ngoại tuyến sửa chữa và sắp xếp các ghi chú đã lưu.

5 tháng 11Thứ Năm
  1. Amazon Science18

    Nhà khoa học Amazon Hamed Karimi giành Giải thưởng Test-of-Time ECML PKDD 2026

    Nhà khoa học ứng dụng cấp cao của Amazon Hamed Karimi cùng các đồng tác giả Julie Nutini và Mark Schmidt đã nhận Giải thưởng Test-of-Time ECML PKDD 2026 cho bài báo năm 2016 của họ về hội tụ tuyến tính của các phương pháp gradient và proximal-gradient dưới điều kiện Polyak–Łojasiewicz. Bài báo đã chỉ ra rằng bất đẳng thức năm 1963 này đảm bảo hội tụ tuyến tính ngay cả khi mô hình không có một nghiệm tối ưu duy nhất, thống nhất các kết quả tối ưu hóa rời rạc và mở rộng chúng sang các bề mặt không trơn và các thuật toán như gradient descent theo tọa độ, theo dấu và ngẫu nhiên. Bài báo đã được trích dẫn hơn 2.000 lần và xuất hiện trong các giáo trình sau đại học.

  2. inclusionAI Repositories38

    ASpec: Khung huấn luyện thông lượng cao cho các mô hình nháp giải mã suy đoán

    ASpec là một khung huấn luyện thông lượng cao cho các mô hình nháp giải mã suy đoán, được xây dựng từ cơ sở mã TorchSpec với cơ chế attention tối ưu, các kernel hợp nhất và tính toán head/loss chọn lọc. Trên một lần chạy Qwen3-8B 4K, huấn luyện chỉ Draft đạt 15.256,44 token đầu vào/giây trên một GPU, gấp 1,96× TorchSpec, trong khi cửa sổ ổn định trực tuyến 8 GPU đạt 77.721,37 token/giây, gấp 2,28× TorchSpec. Nó hỗ trợ DSpark, DFlash, EAGLE3/4 và các draft MTP gốc, với quickstart Qwen3-8B và Ling tiny.

  3. Apple Machine Learning Research38

    Hàm hỗ trợ học được của Apple tăng tốc truy xuất RAG

    Các nhà nghiên cứu của Apple đã trình bày "Amortizing Maximum Inner Product Search with Learned Support Functions" tại ICML 2026, huấn luyện các mạng nơ-ron nhỏ ngoại tuyến để định tuyến truy vấn tới các khóa khớp nhất một cách nhanh hơn. SupportNet học hàm hỗ trợ thông qua mạng nơ-ron lồi đầu vào (ICNN) để cải thiện định tuyến cụm, trong khi KeyNet trực tiếp xuất ra vectơ khóa khớp nhất, được giữ neo về mặt hình học nhờ hàm mất mát nhất quán từ định lý Euler. Cả hai đều được huấn luyện trên phân phối truy vấn thực tế, đánh đổi chi phí khấu hao ban đầu để lấy truy xuất nhanh hơn, chính xác hơn tại thời điểm suy luận.

  4. Google Research47

    Agile Deliberation của Google Research giúp con người định nghĩa các danh mục AI mang tính chủ quan

    Google Research giới thiệu Agile Deliberation, một framework biến việc tạo bộ phân loại AI mang tính chủ quan thành một cuộc trò chuyện lặp đi lặp lại, trong đó AI giúp người dùng làm sắc nét các định nghĩa của chính họ. Framework chia nhiệm vụ thành phạm vi khái niệm và lặp lại khái niệm, sử dụng các mô hình ngôn ngữ - thị giác để làm nổi bật các hình ảnh ranh giới và đưa phản hồi vào một vòng tối ưu hóa lời nhắc tự động. Trong 18 phiên người dùng trực tiếp kéo dài 1,5 giờ, phương pháp này giảm mệt mỏi và lo lắng cho người dùng, đồng thời tạo ra các mô hình nhất quán hơn, vượt trội so với các baseline tiêu chuẩn; mã nguồn được mở trên GitHub.

  5. Anthropic Research58

    Anthropic nghiên cứu cách các nhà nghiên cứu sử dụng Claude trong các lĩnh vực và tác vụ khoa học

    Anthropic đã phân tích 207.049 phiên nghiên cứu trên Claude và Claude Code từ ngày 2 tháng 8 đến ngày 30 tháng 9 năm 2026, bằng các bộ phân loại bảo vệ quyền riêng tư, và phát hiện các nhà khoa học sử dụng Claude nhiều nhất cho phân tích dữ liệu và viết lách, ít nhất cho thu thập dữ liệu và hình thành ý tưởng. Phân tích dữ liệu chiếm 33,7% số phiên Claude và 48,1% số phiên Claude Code, so với 27,6% thời gian của nhà nghiên cứu, trong khi hình thành ý tưởng chiếm 4,2% và 2,1% số phiên so với 7,1% thời gian của nhà nghiên cứu. Báo cáo ước tính rằng việc áp dụng rộng rãi các năng lực hiện tại có thể gần như nhân đôi sản lượng nghiên cứu ở một số lĩnh vực, và tự động hóa hoàn toàn công việc phi vật lý có thể nâng các lĩnh vực như khoa học máy tính và thống kê lên tới 15 lần.

  6. Goodfire Research58

    Goodfire Research đề xuất định hình cơ chế để điều hướng mô hình thông qua các biểu diễn nội tại

    Goodfire Research đề xuất định hình cơ chế, một khung làm việc thêm các hình phạt lên các hướng khái niệm nội tại của mô hình trong quá trình huấn luyện để nó học cách dựa vào hoặc biểu đạt các khái niệm cụ thể thay vì chỉ tối đa hóa phần thưởng nhiệm vụ. Trong các thí nghiệm X-quang ngực, một tác nhân LLM đã sử dụng các đặc trưng autoencoder thưa để tìm các hướng tắt giống ống, và việc định hình sự phụ thuộc đã vượt qua cả huấn luyện tiêu chuẩn và một đường cơ sở dữ liệu cân bằng.