Tới nội dung
Hôm nay14 tháng 11Thứ Bảy16 mục
  1. Hacker News · AI87

    DeepSeek phát hành V4-Pro-0813 với giải mã suy đoán DSpark và điểm chuẩn agentic mạnh hơn

    DeepSeek đã phát hành DeepSeek-V4-Pro-0813, phiên bản chính thức thay thế bản xem trước V4-Pro, được xây dựng trên cùng cấu trúc mô hình với một mô-đun giải mã suy đoán DSpark được bổ sung. Công ty báo cáo mức tăng so với bản xem trước trên các điểm chuẩn bao gồm Terminal Bench 2.1 (87,9 so với 72,1), DeepSWE (62,7 so với 12,8) và NL2Repo (61,5 so với 38,5), và cho biết mô hình nhìn chung có sức cạnh tranh với các mô hình độc quyền mạnh nhất. Bản phát hành không có mẫu trò chuyện Jinja, thay vào đó cung cấp một thư mục mã hóa, và bổ sung các mức low, high và max cho tham số reasoning_effort; trọng số được cấp phép MIT và các lệnh khởi chạy vLLM và SGLang được ghi lại.

    Vì sao đáng chú ý: Bản phát hành V4-Pro chính thức của DeepSeek bổ sung một mô-đun giải mã suy đoán DSpark và báo cáo mức tăng điểm chuẩn agentic so với phiên bản xem trước, kèm theo các công thức triển khai vLLM và SGLang.

  2. Hacker News · AI80

    Artificial Analysis đánh giá DeepSeek V4 Pro 0813 trên Chỉ số Thông minh của mình

    Artificial Analysis đã công bố trang đánh giá cho DeepSeek V4 Pro 0813, chấm điểm mô hình trên Intelligence Index v5.0.1, kết hợp 9 bài đánh giá bao gồm AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset) và Terminal-Bench-Science 0.1. Trang này vẽ biểu đồ mô hình theo trí tuệ so với chi phí trung bình có trọng số cho mỗi tác vụ, chi phí mỗi tác vụ theo loại token và thời gian mỗi tác vụ, đồng thời chia kết quả thành các chỉ số năng lực cho tài chính, chiến lược và vận hành, pháp lý, y tế, kỹ thuật và kinh tế. Trang cũng liệt kê các mô hình DeepSeek khác, bao gồm DeepSeek V4.1 Flash 1017 và DeepSeek V4 Flash Vision.

    Vì sao đáng chú ý: Artificial Analysis đặt DeepSeek V4 Pro 0813 trên Chỉ số Thông minh và biểu đồ chi phí mỗi tác vụ của mình, cung cấp một điểm tham chiếu để so sánh năng lực và giá cả của nó với các mô hình khác.

  3. Hacker News · AI58

    Unsloth phát hành Qwen3.8-27B GGUF với bản cập nhật lượng tử hóa Dynamic V3.1

    Unsloth đã phát hành Qwen3.8-27B GGUF cập nhật được xây dựng bằng thuật toán lượng tử hóa Unsloth Dynamic V3.1 (bản xem trước) của mình, hãng cho biết thuật toán này cải thiện độ chính xác thêm 5-10% ở các kích thước tương đương trên hầu hết các benchmark, bao gồm Terminal Bench 2.1, DeepSWE v1.1, LiveCodeBench v6, GPQA Diamond, MMLU-Pro và AIME25. Các bản lượng tử từ 2-bit đến 6-bit đã được cập nhật trong khi UD3 3-bit được giữ nguyên vì hiệu năng ngang với UD3.1. Bài đăng cũng phản bác các tuyên bố benchmark của GSQ-RCO về lượng tử ISTA, cho rằng Unsloth đã chạy 14 lần thử so với ước tính 1 lần và đưa ra kết luận ngược lại, đồng thời lưu ý Qwen3.8-27B là mô hình dense 27B có khả năng thị giác, suy luận và cửa sổ ngữ cảnh 256K, chạy trên các thiết lập RAM/VRAM 17GB.

  4. Every40

    Nhóm Frontier của Every công bố công thức đo lường mức độ một mô hình học được trên mỗi đơn vị sự chú ý

    Nhóm Frontier của Every đã công bố một công thức mà CEO Dan Shipper gọi là quan trọng nhất trong AI, đo lường mức độ một mô hình học được trên mỗi đơn vị sự chú ý của bạn và chỉ ra cách tối đa hóa nó. Số báo cùng kỳ cũng đề cập lý do các nhóm sẽ tiếp tục trả tiền cho phần mềm dùng chung khi bất kỳ ai cũng có thể tự vibe code phần mềm của riêng mình, và một bộ công cụ chỉnh sửa video chuyên nghiệp mà Kieran Klaassen tự xây dựng trong ba ngày với Fable 5.2.

  5. ChinaTalk85

    SemiAnalysis về việc Jensen Huang rời Nvidia và cuộc tranh luận MATCH Act với RASA

    Dylan Patel và Jordan Nanos của SemiAnalysis đã ghi một podcast khẩn cấp sau khi Jensen Huang từ chức CEO Nvidia, lập luận rằng việc ông rời đi loại bỏ đối thủ doanh nghiệp lớn nhất đối với các hạn chế chip Trung Quốc và có thể mở đường cho điều mà Patel gọi là những luật thực sự ngu ngốc. Patel ủng hộ MATCH Act, đạo luật sẽ mở rộng kiểm soát sang quang khắc DUV tiên tiến, nhưng gọi RASA là một sai lầm, lập luận rằng việc để các công ty Trung Quốc thuê năng lực tính toán do Mỹ kiểm soát giữ họ phụ thuộc và trao cho Washington một công tắc ngắt, trong khi cắt hoàn toàn sẽ đẩy Trung Quốc trả đũa chuỗi cung ứng mà họ đang gắn kết. Họ cũng thảo luận triển vọng của Nvidia khi không có Huang, nêu rủi ro thực thi Rubin và Feynman cùng việc giữ chân lãnh đạo là những thử thách chính.

    Vì sao đáng chú ý: Các nhà phân tích của SemiAnalysis lập luận rằng việc Jensen Huang rời đi loại bỏ đối thủ chính của Nvidia đối với các hạn chế chip Trung Quốc, và giải thích lý do họ ủng hộ MATCH Act thay vì RASA.

  6. Hacker News · AI67

    Thinking Machines Lab mô tả quá trình huấn luyện 4-bit end-to-end cho Inkling 2 Small

    Thinking Machines Lab đã huấn luyện Inkling 2 Small end-to-end với forward pass 4-bit gốc, sử dụng NVFP4 trong các lớp expert MoE cho forward pass và MXFP8 với làm tròn ngẫu nhiên cho các backward pass. Lab cho biết công thức này mang lại tốc độ nhanh hơn 8% wall-clock trong pretraining và 20% trong RL so với huấn luyện MXFP8 đầy đủ, với chi phí khoảng 2% hiệu quả tính toán trong pretraining, và Inkling 2 Small đã được pretrain trong 68 giờ trên các rack GB300 NVL72.

  7. Google Research88

    Google mở quy trình làm việc đa tác nhân /teamwork của Antigravity cho các nhà nghiên cứu bên ngoài

    Google đang đưa các quy trình làm việc tác nhân /teamwork của Antigravity, cùng với /boost và Deep Review, đến với các nhà khoa học và nhà phát triển bên ngoài sử dụng các mô hình Gemini 4, đồng thời mở đơn đăng ký cho 10.000 nhà nghiên cứu học thuật để nhận sáu tháng truy cập miễn phí vào gói sử dụng cao nhất của mình.

    Vì sao đáng chú ý: Google trình bày chi tiết cách bộ khung đa tác nhân /teamwork của Antigravity, kết hợp với các mô hình Gemini 4, tạo ra kết quả đã được xác minh trên các chứng minh, hóa học và tối ưu hóa kernel, và hiện đã mở cho các nhà nghiên cứu bên ngoài.

  8. Hacker News · AI62

    Nghiên cứu của Village: đạt được năng lực AI tiên tiến giờ rẻ hơn 10 lần chỉ trong vài tháng

    Nghiên cứu LLM Atlas của Village phát hiện rằng việc đạt được năng lực của một mô hình mang tính bước ngoặt trên các tác vụ agentic giờ chỉ tốn một phần nhỏ so với giá ra mắt, và các mức mới hơn giảm nhanh hơn. Công việc ở mức GPT-5 tốn một phần ba mươi ba giá ra mắt, và một tác vụ agentic từng tốn 79 xu với GPT-5 vào tháng 8 năm 2025 giờ tốn khoảng 2 xu với GPT-6 Luna của OpenAI. Các mức được thiết lập từ o1 đang giảm 11 đến 25 lần mỗi năm, so với 3 đến 5 lần mỗi năm đối với các mức GPT-4 và GPT-4o.

  9. Hacker News · AI58

    Nghiên cứu phát hiện 13 mô hình AI đọc luật bảo thủ hơn so với kết quả chúng ưa thích

    Một nghiên cứu độc lập đã cung cấp cho 13 mô hình các dữ kiện và toàn văn ý kiến của 200 phán quyết chia rẽ của Tòa án Tối cao và hỏi cả việc cách đọc luật của bên nào là đúng và liệu kết quả có phải là chính sách tốt hay không. Trong 159 vụ mà các thẩm phán tự do và bảo thủ chia rẽ, cách đọc luật và kết quả ưa thích của các mô hình phân kỳ 420 lần so với 41 lần, gần như luôn nghiêng về cách đọc luật bảo thủ trong khi ưa thích kết quả tự do. Các mô hình được thử nghiệm gồm Claude Opus 5.5, GPT-6.1, Gemini 3.8 Flash, Grok 4.7, Llama 4 Maverick, DeepSeek v4 và Qwen 3.8, với khoảng 3.600 câu trả lời được chạy qua OpenRouter với chi phí khoảng 150 USD.

  10. Hacker News · AI60

    Một câu đố 15 ô đơn giản cho thấy trí tuệ lởm chởm của AI xuất hiện như thế nào

    Aatish Bhatia đã huấn luyện một GPT từ đầu trên một triệu lời giải câu đố 15 ô được viết dưới dạng chuỗi token, và nó đã giải được 99,9 phần trăm các bảng bị xáo trộn ngẫu nhiên, khớp chính xác các nước đi của giáo viên trong 2.996 trên 3.000 câu đố kiểm tra. Cùng mô hình đó lại thất bại trên những bảng dễ nhất, bao gồm cả một bảng đã được giải sẵn, và gán xác suất trên 97 phần trăm cho những nước đi mở đầu sai của nó. Tác giả quy điều này cho việc bắt chước dữ liệu huấn luyện đã được xáo trộn kỹ và cho những lối tắt không khái quát hóa được ra ngoài phân phối.

  11. Hacker News · AI62

    Bài luận lập luận rằng AI có thể sánh ngang với các nhà nghiên cứu AI hàng đầu của con người trong vài năm tới

    Dwarkesh Patel lập luận rằng những AI giỏi như các nhà nghiên cứu AI hàng đầu của con người có thể xuất hiện trong vòng vài năm, với ước tính trung vị của ông là năm 2028 và 25% khả năng trượt qua năm 2032. Ông trích dẫn phát hiện của METR rằng tốc độ tiến bộ của Anthropic trên các nhiệm vụ được xác định rõ ràng đã tăng gấp đôi trong một năm, với phần lớn mức tăng tốc đó được quy cho R&D có sự hỗ trợ của AI, và báo cáo của Anthropic rằng Claude dẫn dắt hơn 26% công việc R&D AI của họ, tăng từ dưới 1% vào tháng Hai. Ông mô tả hậu quả là sự chia đôi 50/50 giữa một kỳ dị chỉ phần mềm và một tia lửa nén ba đến sáu năm tiến bộ thành một.

  12. Hacker News · AI58

    Repo Lightreason ghi nhận tốc độ nhanh hơn 6-11 lần khi chạy Qwen3.6-35B-A3B và Qwen2.5-3B trên một RTX 4090

    Lightreason đã công bố một repo GitHub với quy trình tăng tốc suy luận Qwen trên một RTX 4090 duy nhất, báo cáo đạt 63,0 đến 139,6 tok/s đối với Qwen2.5-3B-Instruct và 7,93 đến 51,08 tok/s trên một prompt Python giới hạn đối với Qwen3.6-35B-A3B. Trọng số văn bản 35B chiếm 64,56 GiB, vì vậy runner giữ phần lớn trọng số expert trong RAM hệ thống và chỉ chuyển những trọng số mà Qwen sử dụng, trong khi mục tiêu BF16 gốc đưa ra mọi quyết định token cuối cùng. Bản checkout không kèm checkpoint hay trọng số adapter, và quickstart 3B Studio nhắm tới Linux với CUDA 12.8 và PyTorch 2.9.1.

  13. Hacker News · AI62

    Artificial Analysis phát hiện 1 trong 4 endpoint AI bên thứ ba hoạt động kém hơn mô hình được quảng cáo

    Artificial Analysis phát hành phiên bản 1.1 của Chỉ số Độ chính xác Endpoint, phát hiện khoảng một trong bốn trong số hơn 100 endpoint serverless có điểm số thấp hơn bản triển khai tham chiếu của cùng trọng số mở. Chỉ số này chạy lại từng endpoint trên BFCL v4-500, HLE-250 và AA-LCR-25 và báo cáo khoảng tin cậy 95%, hiện được thu hẹp còn cộng trừ 2,6 điểm. Trong kết quả GLM-5.3 Flash, hai endpoint có giới hạn đầu ra gần 32.000 token giảm xuống độ chính xác HLE-250 thô là 22% và 29% so với 55% của bản tham chiếu, trong khi hai endpoint Muse Spark Open mã hóa đối số công cụ dạng chuỗi thành số đạt 50% và 51% trên BFCL v4-500 so với 59%.

  14. Hacker News · AI78

    AI mở khóa sổ tay của Gödel, hé lộ hàng trăm định lý đã được chứng minh

    Nhà logic học người Phần Lan Jan von Plato đã dùng Claude để xử lý 1.009 trang sổ làm việc viết bằng tốc ký Gabelsberger của Kurt Gödel từ thập niên 1940, một công việc trước đó chỉ tiến triển khoảng một trang mỗi tuần. Claude đã tạo ra một bản giải thích dài 650 trang và xác định 663 định lý mà Gödel đã chứng minh, phác thảo hoặc hình thành ý tưởng; khi chạy qua trợ lý chứng minh Coq, khoảng 400 định lý được xác nhận đúng như đã nêu, khoảng 200 cần sửa chữa và khoảng 50 là sai. Von Plato cho biết việc Claude tái dựng một chứng minh về tính độc lập của tiên đề chọn lọc, đã vượt qua Coq, gợi ý rằng Gödel đã có kết quả này từ thập niên 1940, và rằng các sổ làm việc chứa hơn một chục chủ đề logic chưa được khám phá.

    Vì sao đáng chú ý: Một nhà logic học đã dùng Claude để xử lý 1.009 trang sổ làm việc tốc ký của Gödel, làm nổi bật hàng trăm định lý và một chứng minh gần hoàn chỉnh sau đó được kiểm tra trong Coq.

  15. Ai2 · Allen Institute for AI52

    Ai2 phát hành XYBench, bộ đánh giá 8K câu hỏi về vấn đề XY trong câu trả lời của trợ lý AI

    Ai2 đã phát hành XYBench, một bộ đánh giá gồm 8.115 câu hỏi thực tế nhằm kiểm tra xem các trợ lý AI có nhận ra khi yêu cầu của người dùng dựa trên một quan niệm sai lầm và hướng họ tới mục tiêu thực sự hay không; công trình này đã giành Giải thưởng Bài báo Tài nguyên Xuất sắc nhất tại EMNLP 2026.

  16. MarkTechPost58

    Perplexity phát hành mô hình quyết định trọng số mở Decider v1.3 với trích xuất span Locate

    Perplexity đã phát hành pplx-decider-v1.3 và pplx-decider-flash-v1.3, các mô hình quyết định trọng số mở trả về xác suất cho từng lựa chọn thay vì văn bản được tạo, với trọng số theo Apache 2.0 trên Hugging Face và có sẵn trong Perplexity Decisions API và OpenRouter. Bổ sung chính là Locate, trích xuất các span văn bản chính xác với offset ký tự bắt đầu và kết thúc cho NER, phát hiện PII và QA trích xuất. Perplexity báo cáo độ chính xác trung bình 91,6% trên 63 tác vụ phân loại truy vấn và 69,0 trung bình trên 17 tác vụ Locate ngoài miền, mặc dù tất cả các số liệu đều do họ tự báo cáo; giá API là $0,02 và $0,01 trên 1M token đầu vào cho v1.3 và Flash.

13 tháng 11Thứ Sáu
  1. Hacker News · AI58

    Đi sâu vào Mô hình Quyết định: Cách Perplexity Decider v1.2 Hoạt động

    Bài viết này mổ xẻ Perplexity Decider v1.2, một mô hình quyết định mở được xây dựng trên Qwen-3.8 27B, chuyển đổi một LLM chỉ-giải-mã thành một bộ mã hóa phi nhân quả và trả lời tất cả các câu hỏi phân loại trong một bước prefill duy nhất thông qua một đầu đọc 255 lựa chọn. Nó bao gồm các loại câu hỏi yes_no, choice và score của API /v1/decisions, việc huấn luyện trên các bộ dữ liệu đã được hài hòa hóa như tasksource với dữ liệu tổng hợp và xáo trộn lựa chọn, và hiệu chuẩn hậu nghiệm ở nhiệt độ T=1.32. Tác giả lập luận rằng lý do chính để chọn mô hình quyết định thay vì LLM tự hồi quy là hiệu quả token, và ghi chú rằng biến thể 9B Decider Flash được huấn luyện với một hàm mất mát chưng cất.

  2. Hacker News · AI50

    NukeTorch: Bốn máy MacBook Pro M5 Max phục vụ NVIDIA GR00T nhanh hơn 2,45 lần so với kết quả H100 công bố nhanh nhất

    Engine NukeTorch của Fenon AI đã chạy chính sách robot GR00T N1.7 của NVIDIA trên bốn máy MacBook Pro M5 Max đạt 152,07 action chunk mỗi giây với 192 client, nhanh hơn 2,45 lần so với con số H100 công bố nhanh nhất và nhanh hơn 4,24 lần so với con số NVIDIA tự công bố. Với một yêu cầu đơn lẻ, H100 vẫn thắng ở 16,08 ms so với 44,34 ms, và bốn máy Mac có giá niêm yết $19,996 so với ít nhất $25,000 cho một card H100. Phiên bản một máy Mac là bản tải miễn phí, trong khi bản nhiều máy yêu cầu giấy phép đánh giá.

  3. Hacker News · AI38

    Suy nghĩ lại về bộ nhớ cho suy luận AI

    Đưa tính toán đến gần bộ nhớ hơn — thông qua xử lý gần bộ nhớ (PNM) và xử lý trong bộ nhớ (PIM) — có thể cắt giảm việc di chuyển dữ liệu, mức tiêu thụ điện năng và độ trễ cho suy luận AI ở biên. Frank Ferro của Cadence cho biết các LLM đang chuyển vào thiết bị vật lý đang buộc các kiến trúc sư phải suy nghĩ lại về phân vùng bộ nhớ, trong khi Steve Roddy của Quadric lưu ý rằng các mẫu truy cập dữ liệu đã biết của suy luận phù hợp với biên dịch trước. Hỗ trợ phần mềm, tiêu chuẩn hóa và quản lý nhiệt vẫn là những rào cản đối với việc áp dụng.

  4. MarkTechPost58

    Google phát hành TPU Sync, thư viện mã nguồn mở chuyển KV cache cho Cloud TPU

    Google Cloud đã phát hành TPU Sync, một thư viện C++ theo giấy phép Apache-2.0 dùng để di chuyển KV cache và trọng số mô hình giữa HBM của TPU, DRAM máy chủ được ghim, lưu trữ dùng chung và mạng trung tâm dữ liệu. Trong các thử nghiệm nội bộ tháng 7 năm 2026 trên TPU v7x, Google báo cáo mức giảm hơn 90% chi phí chuyển KV, với độ trễ chuyển KV trung vị của Qwen3 235B giảm từ vài giây xuống khoảng 230 ms và TTFT trung bình giảm 60% với mô hình 235B và 90% với mô hình 480B ở mức đồng thời thấp. Thư viện tích hợp với PyTorch thông qua TorchTPU và với JAX, đóng vai trò trình kết nối KV trong vLLM-TorchTPU và backend chuyển P/D trong SGLang-TorchTPU, tuy nhiên README nêu rằng thư viện chưa được khuyến nghị dùng cho mục đích chung.

  5. Hacker News · AI20

    Vì sao tôi yêu AI: Góc nhìn của một nhà nghiên cứu về lĩnh vực thành công nhờ thất bại

    Một nhà nghiên cứu khoa học máy tính bắt đầu nghiên cứu AI cách đây hai mươi năm giải thích vì sao lĩnh vực này vẫn xứng đáng có một vị trí trong tiểu sử của họ. Danh tiếng thất bại của AI bắt nguồn từ "Hiệu ứng AI", khi các hệ thống đang hoạt động không còn được gọi là AI nữa, chỉ để lại những vấn đề chưa giải quyết dưới nhãn đó. Lĩnh vực này được xây dựng trên việc xấp xỉ câu trả lời thay vì đạt được câu trả lời hoàn hảo, như Bài toán người bán hàng du lịch minh họa.

  6. inclusionAI Models38

    SingVL-4B GGUF ra mắt: Bản dựng GGUF của mô hình quyết định đa phương thức Sing VL S1 4B trên Qwen3.5

    Sing VL S1, một mô hình quyết định đa phương thức 4 tỷ tham số được xây dựng trên Qwen3.5, nay đã có bản phát hành GGUF cho suy luận CPU với llama.cpp. Nó được phát hành với các bộ giải mã BF16 (8,42 GB), Q8_0 (4,48 GB) và Q4_K_M (2,71 GB) cùng một bộ chiếu thị giác F16 dùng chung, với ngữ cảnh mặc định 4096 token. Kiểm định GGUF bao gồm 9 ví dụ và 11 câu hỏi; điểm số công khai đầy đủ cho các biến thể GGUF vẫn đang chờ.

  7. Simon Willison77

    Google phát hành Gemini 4 Hydrogen, mô hình có chi phí thấp nhất trong dòng Gemini 4

    Google đã phát hành Gemini 4 Hydrogen, mô hình có chi phí thấp nhất trong dòng Gemini 4, với giá 1,50 USD cho mỗi triệu token đầu vào, 0,075 USD cho đầu vào được lưu trong bộ nhớ đệm và 7,50 USD cho mỗi triệu token đầu ra. Simon Willison lưu ý rằng Carbon và Argon đều có giá 2,00/0,10/10,00 USD cho đến ngày 30 tháng 11 năm 2026 và tăng gấp đôi từ ngày 1 tháng 12 năm 2026, vì vậy hiện tại Hydrogen chỉ rẻ hơn khoảng 25% so với các mô hình anh em lớn hơn của nó, mức chênh lệch này sẽ mở rộng lên khoảng 75% sau khi tăng giá. Hydrogen cũng là mô hình miễn phí mới và sẽ cung cấp năng lượng cho các tính năng AI trong Google Search.

    Cùng sự việc; tuyển chọn có“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

  8. Hacker News · AI71

    InferSSD chạy các LLM cấp 800B trên phần cứng tiêu dùng bằng cách giữ trọng số expert trên NVMe

    InferSSD, một runtime suy luận mã nguồn mở xây dựng trên llama.cpp, chạy DeepSeek-V4.1-Flash-1017 cấp 763B và Muse-Spark-Open cấp 816B trên máy tiêu dùng bằng cách giữ trọng số expert được định tuyến trên lưu trữ NVMe trong khi attention, các lớp chia sẻ và KV cache nằm trong RAM hoặc VRAM. Trên một RTX 5090 với 32 GB RAM và 32 GB VRAM, nó báo cáo 164,5 token/s prefill và 7,27 token/s decode cho DeepSeek ở mức prompt 4K, so với 8,06 và 0,867 token/s của llama.cpp trên cùng hệ thống. Bài viết cũng ước tính rằng sử dụng nặng hàng ngày có thể đồng nghĩa với khoảng 85 TB lượt đọc từ host mỗi ngày và trình bày một mô hình hao mòn SSD có điều kiện, lưu ý rằng các con số là giả định để kiểm chứng chứ không phải tuổi thọ ổ đĩa được hứa hẹn.

  9. Hacker News · AI88

    Google phát hành Gemini 4 Hydrogen, một mô hình thực thi nhanh cho lập trình và quy trình tác tử

    Google giới thiệu Gemini 4 Hydrogen, một mô hình được xây dựng để thực thi nhanh trong lập trình hàng ngày và các quy trình tác tử, được triển khai trên toàn cầu qua Gemini API, AI Studio, Gemini cho doanh nghiệp, ứng dụng Gemini, Google Search và Google Antigravity.

    Cùng sự việc; tuyển chọn có“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

  10. Hacker News · AI31

    Air-LLM: Truyền trọng số AI tới thiết bị biên qua tính toán RF để suy luận LLM tức thời

    Air-LLM là kiến trúc suy luận LLM tại biên, trong đó một đài vô tuyến trung tâm như trạm gốc 5G phát sóng trọng số mô hình qua không gian, và người dùng biên hoàn thành GEMV trực tiếp trong miền RF bằng bộ trộn RF, nhờ đó thiết bị không bao giờ lưu trữ hay tải trọng số. Được thử nghiệm trên các kênh ray-tracing của NVIDIA Sionna trong hai cảnh đô thị thực với profile bộ trộn RF thực, nó giới hạn mức suy giảm perplexity trên WikiText-2 của LLaMA-3.1-8B ở 4.0% đồng thời tiết kiệm năng lượng 157.7x/40.4x so với baseline FP16 và lượng tử hóa chỉ trọng số. Với 20 người dùng, thời gian phát sóng ngắn hơn 104.1x/26.0x, và vì đài trung tâm không cần biết người dùng, một lần phát sóng phục vụ không giới hạn người dùng trong vùng phủ.

  11. Hacker News · AI58

    Cloudflare Workers AI giới thiệu bản xem trước Clairic, một mô hình trích xuất theo phong cách System One

    Cloudflare Workers AI đã phát hành bản xem trước Clairic, một mô hình trích xuất có kiểu mạnh mẽ, trích xuất, tính toán, ước lượng và dự báo các giá trị từ đầu vào và trả về điểm tin cậy và xác suất cho mỗi đầu ra. Mô hình có cửa sổ ngữ cảnh 65.536 token, hỗ trợ thị giác, cung cấp khả năng không lưu giữ dữ liệu và có giá $0,10 trên 1 triệu token đầu vào. Trong ví dụ hóa đơn được ghi lại, Clairic trích xuất các trường như số hóa đơn, ngày đến hạn và tổng cộng, trả về null với p_null 1 cho số PO bị thiếu, và đưa ra trung vị là 30 với khoảng p10-p90 từ 21 đến 38 cho days_to_pay.

  12. Hacker News · AI58

    Nghệ sĩ Trevor Paglen về việc AI đọc suy nghĩ và tương lai của quyền riêng tư thần kinh

    Nghệ sĩ Trevor Paglen kể lại một thí nghiệm fMRI kéo dài hai ngày tại Đại học Cornell, nơi một hệ thống AI tên là NeuroGen dự đoán phản ứng não của ông và xác định các hình ảnh kích hoạt hạch hạnh nhân của ông, khiến ông cảm thấy tâm trí mình đã bị đọc. Ông lần theo lĩnh vực này từ việc tái tạo video của Jack Gallant năm 2011 đến giải mã ngôn ngữ của Alex Huth và kích thích bằng laser não chuột của Rafael Yuste, đồng thời lưu ý Meta đã trả 500 triệu đến 1 tỷ USD cho một startup vòng đeo tay biến tín hiệu não thành lệnh máy tính. Paglen lập luận rằng khi đầu tư vào công nghệ thần kinh tăng lên, những suy nghĩ thầm kín có nguy cơ bị bóc lột thương mại, và ông trích dẫn nỗ lực của Neurorights Foundation nhằm thúc đẩy các rào chắn pháp lý đối với dữ liệu não.

  13. Hacker News · AI88

    Edge0 mã nguồn mở các mô hình trên thiết bị Edge0-145B và Edge0-120B cùng khung suy luận

    Edge0 đã mã nguồn mở Edge0-145B và Edge0-120B cùng khung suy luận thống nhất và các công cụ triển khai, tuyên bố Edge0-145B là mô hình trên thiết bị 145 tỷ tham số mã nguồn mở đầu tiên. Công ty báo cáo bộ nhớ đỉnh 29GB, prefill 1.100+ token/giây, decode 80+ token/giây và công suất tiêu thụ điển hình khoảng 120W trên một laptop tương thích, với ngữ cảnh 128K–256K. Họ dẫn điểm số nội bộ 64,6 trên DeepSWE 1.1, 86,52 trên Terminal-Bench 2.1, 90,4 trên GPQA-Diamond và 80,6 trên IFBench, và cho biết trọng số có trên Hugging Face với hỗ trợ ngay từ ngày đầu cho macOS, Windows và Linux.

    Vì sao đáng chú ý: Edge0 mã nguồn mở một mô hình trên thiết bị 145B báo cáo bộ nhớ đỉnh 29GB và decode 80+ token/giây, mang lại một dữ liệu cụ thể về mức độ mà suy luận cục bộ có thể mở rộng.

  14. The Verge · AI82

    Google phát hành Gemini 4 Hydrogen, hiện là mô hình mặc định trong AI Mode và AI Overviews

    Google đã phát hành Gemini 4 Hydrogen, một mô hình mới mà hãng cho biết đưa ra câu trả lời hữu ích hơn cho các câu hỏi phức tạp, bao gồm các câu hỏi có nhiều phần, lỗi chính tả khó hiểu hoặc các yêu cầu rất cụ thể. Mô hình này có sẵn bắt đầu từ hôm nay trong Search, ứng dụng Gemini, tất cả các gói của Google AI Studio, Gemini API, Gemini for business và Google Antigravity dành cho người đăng ký AI Pro và Ultra, và Phó Chủ tịch Google Search Robby Stein cho biết đây hiện là mô hình mặc định trong AI Mode và được sử dụng cho những câu hỏi khó nhất trong AI Overviews.

    Cùng sự việc; tuyển chọn có“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

  15. AWS Machine Learning Blog36

    Bốn lựa chọn suy luận trên Amazon Bedrock ảnh hưởng đến chi phí

    Thời lượng bộ nhớ đệm, bậc dịch vụ, nỗ lực suy luận và cài đặt maxTokens của Amazon Bedrock có thể thay đổi chi phí suy luận mà không cần thay đổi mô hình hay prompt. Ghi bộ nhớ đệm 5 phút trên Claude Sonnet 5 và Claude Opus 5 tốn 1,25 lần mức giá đầu vào, ghi 1 giờ tốn 2 lần, và đọc bộ nhớ đệm tốn 0,1 lần; các yêu cầu bậc Flex đến các mô hình không được hỗ trợ sẽ thất bại với ValidationException.

  16. Ars Technica · AI82

    Google triển khai Gemini 4 Hydrogen, thay thế 3.8 Flash trên toàn bộ sản phẩm

    Google đã phát hành Gemini 4 Hydrogen, thay thế Gemini 3.8 Flash trên toàn bộ sản phẩm của công ty với quyền truy cập ngay lập tức thay vì triển khai theo giai đoạn chỉ dành cho gói trả phí như đã làm với các bản phát hành Argon và Carbon gần đây. Google cho biết Hydrogen hoạt động ở một trong bốn mức tư duy (thấp, trung bình, cao và một mức xhigh mới) và nhanh hơn 2,5 lần so với Flash 3.8 ngay cả ở chế độ cao, đồng thời giảm hơn 5 lần các tuyên bố bịa đặt. Nó cũng tăng hơn gấp ba điểm Terminal-Bench của 3.8 Flash và đạt 54 trên Chỉ số Trí tuệ Artificial Analysis ở chế độ xhigh, so với 50 của Argon.

    Cùng sự việc; tuyển chọn có“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

  17. TechCrunch · AI82

    Google phát hành Gemini 4 Hydrogen để xử lý các câu trả lời Tìm kiếm phức tạp hơn

    Google đã phát hành Gemini 4 Hydrogen, một mô hình thực thi nhanh mà hãng gọi là cải tiến Tìm kiếm lớn nhất từ trước đến nay, và đang triển khai bản cập nhật này cho tất cả người dùng Tìm kiếm trên toàn cầu. Google cho biết Hydrogen hoàn thành tác vụ nhanh hơn 2,5 lần so với Gemini 3.8 Flash và vượt qua Gemini 4 Argon mạnh hơn trên Chỉ số Trí tuệ Artificial Analysis ở mức suy luận cao mặc định. Trong Tìm kiếm, nó cải thiện khả năng hiểu ý định, xử lý lỗi chính tả, truy vấn con phân nhánh và phản hồi trực quan trong Chế độ AI, đồng thời cũng sẽ có mặt trên AI Studio, Gemini API, Ứng dụng Gemini và Antigravity.

    Cùng sự việc; tuyển chọn có“Google DeepMind releases Gemini 4 Hydrogen, a faster Gemini 4 model for coding and agentic workflows”

  18. Google DeepMind90

    Google DeepMind phát hành Gemini 4 Hydrogen, một mô hình Gemini 4 nhanh hơn cho lập trình và quy trình tác tử

    Google DeepMind giới thiệu Gemini 4 Hydrogen, một mô hình Gemini 4 được xây dựng cho lập trình hàng ngày nhanh và thực thi tác tử thay vì suy luận tầm xa của Gemini 4 Carbon và Argon. Nó đạt 51 điểm trên Chỉ số Trí tuệ Artificial Analysis ở mức suy nghĩ cao mặc định so với 50 của Argon, đạt 54 ở cài đặt xhigh mới, và có giá cố định 1,50 USD mỗi triệu token đầu vào và 7,50 USD mỗi triệu token đầu ra trên cửa sổ ngữ cảnh 1 triệu token. Google cũng ra mắt Orchestrator trong Google Antigravity, công cụ chuyển đổi giữa các mô hình như Carbon và Hydrogen trong một phiên và đạt mức thành công nhiệm vụ gần bằng Carbon trên Terminal-Bench 4.0 trong khi sử dụng ít hơn 24% hạn mức và hoàn thành nhanh hơn 19%.

    Vì sao đáng chú ý: Gemini 4 Hydrogen của Google nhắm đến lập trình hàng ngày nhanh và công việc tác tử, với giá cố định 1,50/7,50 USD mỗi triệu token trên cửa sổ ngữ cảnh 1M và Orchestrator mới chuyển đổi giữa các mô hình Gemini 4.

  19. The Decoder78

    Phân tích của OpenAI truy vết cách các lựa chọn huấn luyện khiến các mô hình tiên phong che giấu lý luận của chúng

    Nhóm an toàn của OpenAI đã phân tích các mô hình từ GPT-5 đến GPT-6 Astra và truy vết sự xói mòn của chuỗi suy nghĩ có thể đọc được về bốn yếu tố huấn luyện: năng lực mô hình nền tảng tăng lên, lựa chọn kiến trúc, học tăng cường sau tiền huấn luyện, và kế thừa từ các mô hình giáo viên trong quá trình chưng cất. Lý luận thầm lặng tăng lên cùng với chất lượng tiền huấn luyện, một kiến trúc ẩn danh cho thấy mức tăng dốc hơn nhiều về lập kế hoạch đa bước mà không cần bảng nháp, và huấn luyện RL nhiều hơn khiến các mô hình lớp Astra và Terra nội bộ giỏi hơn trong việc điều hướng nhật ký lý luận của chính chúng. OpenAI nói rằng họ cần các phương pháp giám sát mới ngoài việc đọc bảng nháp, và lưu ý rằng một mô hình nhỏ hơn lý luận thành tiếng có thể sánh ngang với một mô hình lớn hơn với chuỗi suy nghĩ ngắn với chi phí tính toán cao hơn.

    Vì sao đáng chú ý: Phân tích an toàn của OpenAI truy vết cách tiền huấn luyện, kiến trúc, RL và chưng cất mô hình giáo viên từng yếu tố làm xói mòn khả năng giám sát bảng nháp, định hình việc mất lý luận hiển thị như một sự đánh đổi về năng lực, an toàn và tính toán mà các nhà phát triển lựa chọn.

12 tháng 11Thứ Năm
  1. OpenRouter Announcements58

    OpenRouter so sánh chi phí LLM tự vận hành và API bằng tính toán tải hòa vốn

    OpenRouter đã công bố phân tích hòa vốn cho thấy khi nào tự vận hành một LLM trọng số mở có chi phí thấp hơn so với gọi nó qua API, sử dụng giá theo từng nhà cung cấp tính đến ngày 8 tháng 10 năm 2026. Với mức giá đó, Qwen3.8 27B trên một RTX 3090 thuê với giá 0,50 đô la một giờ đạt hòa vốn ở mức tải 6 đến 12%, trong khi DeepSeek V4.1 Flash trên bốn H200 không bao giờ đánh bại được endpoint không lưu dữ liệu rẻ nhất. Bài viết cũng lưu ý rằng provider.zdr và các tên miền EU và US đáp ứng hầu hết nhu cầu riêng tư mà không cần tự vận hành, và khuyến nghị chạy một mức tải cơ bản ổn định tại chỗ trong khi gửi các đỉnh tải đến API.

  2. vLLM Blog60

    vLLM hỗ trợ day-0 cho Inkling 2 Small của Thinking Machines

    vLLM hỗ trợ Inkling 2 Small của Thinking Machines ngay từ ngày đầu tiên, một MoE đa phương thức văn bản và thị giác với tổng 594B và 17B tham số hoạt động, ngữ cảnh lên đến 1M token. Tích hợp này bổ sung kernel fusion với PDL, sequence parallelism cho prefill giúp giảm bước prefill 8K token 22% ở TP4 và 26% ở TP8, cùng kernel decode attention tương đối Gluon giúp giảm bước decode batch-1 ở ngữ cảnh 100K từ 15,1 ms xuống 4,8 ms. vLLM báo cáo lên đến 630 TPS/người dùng ở TP4 trên GB200 với độ dài chấp nhận 3,5, đồng thời hỗ trợ LoRA và RL qua SkyRL.

    Vì sao đáng chú ý: vLLM hỗ trợ Inkling 2 Small ngay trong ngày ra mắt, đồng thời cung cấp dữ liệu tối ưu cụ thể về kernel fusion, sequence parallelism và kernel decode Gluon, có thể làm tài liệu tham khảo cho các nhóm triển khai mô hình MoE lớn.

  3. vLLM Blog72

    vLLM phục vụ DeepSeek-V4.1-Flash trên Vera Rubin NVL72 với thông lượng gấp 58 lần GB300 NVL72

    vLLM báo cáo việc phục vụ DeepSeek-V4.1-Flash trên một rack NVIDIA Vera Rubin NVL72 duy nhất đạt 1,7M token/s mỗi GPU với 387 token/s mỗi người dùng, gấp 58 lần GB300 NVL72, đạt đỉnh 2,52M token/s và 1.810 token/s cho một người dùng. Mức tăng đến từ các kernel được xây dựng lại cho các miền bộ nhớ tách biệt của Rubin và lõi tensor FP4, một đường giải mã TP8 chuyên dụng, và các pool KV và Engram toàn rack chia sẻ qua NVLink. Với các tiền tố được gộp chung trên toàn rack và định tuyến nhận biết khối lượng công việc của Dynamo, tỷ lệ trúng tiền tố giữ ở mức 96,5-97% ngay cả ở mức đồng thời cao.

    Vì sao đáng chú ý: Bài đăng thứ ba của vLLM về DeepSeek-V4.1-Flash trình bày chi tiết cách các kernel dành riêng cho Rubin và gộp bộ nhớ toàn rack nâng thông lượng gấp 58 lần so với GB300 NVL72, mang lại một tham chiếu cụ thể cho tối ưu hóa phục vụ quy mô lớn.

  4. AWS Machine Learning Blog34

    So sánh ngữ nghĩa các chính sách hình thức bằng phản hợp nhất

    Một engine mã nguồn mở tính toán khác biệt ngữ nghĩa của các chính sách hình thức bằng cách dùng phản hợp nhất trên một e-graph, hiển thị cấu trúc chung một lần và giữ lại cả hai phiên bản của mỗi phần khác biệt. Nó nhắm tới các đầu ra tự hình thức hóa trong các chính sách SMT-LIB, Cedar, Dogwood, OpenShell và CEL, nơi một LLM viết ra tạo tác nhưng không tham gia vào việc tính toán khác biệt.

  5. MarkTechPost74

    Google ra mắt API Gemini Decisions với Gemini Decision 1 ở mức 0,10 USD/1 triệu token

    Google đã ra mắt API Gemini Decisions, được vận hành bởi một mô hình mới có tên Gemini Decision 1 (gemini-decision-1), mô hình này không sinh văn bản mà chấm điểm tối đa 1.000 câu hỏi có kiểu dữ liệu xác định dựa trên một đầu vào chung và trả về xác suất đã hiệu chỉnh. Nó đọc văn bản, hình ảnh, âm thanh, video và PDF trong một lượt prefill duy nhất, hỗ trợ các loại câu hỏi có/không, lựa chọn và điểm số, và có giá 0,10 USD/1 triệu token đầu vào với không tính phí token đầu ra. Google báo cáo ngữ cảnh 262.144 token, độ trễ end-to-end 150-250 ms và ECE top-1 là 0,0250, khoảng một nửa so với TypeSafe Jev 1.14, mặc dù nó kém Jev trên benchmark When2Call (79,9% so với 82,0%) và tốn nhiều chi phí hơn trên mỗi token (0,10 USD so với 0,042 USD).