Tới nội dung
#Triển khai / kỹ thuật
13 tháng 11Thứ Sáu
  1. Databricks Blog36

    Bright Machines dùng Debezium và Iceberg để cung cấp cho khách hàng bảng điều khiển trực tiếp từ các nhà máy cách ly mạng

    Bright Machines hiện cung cấp cho khách hàng bảng điều khiển dữ liệu nhà máy trực tiếp, có quản trị từ các nhà máy cách ly mạng mà không cần mở bất kỳ quyền truy cập vào nào. Công ty ghi lại các thay đổi PostgreSQL tại biên với Debezium, ghi chúng dưới dạng Apache Iceberg, đẩy ra ngoài qua một đường ra duy nhất có thể kiểm toán, và đọc tại chỗ trong Databricks thông qua liên kết Unity Catalog. Bảng điều khiển đầu tiên mà khách hàng nhìn thấy đã đi vào hoạt động khoảng hai tháng sau khi khởi động, với các hàng đã cam kết có thể truy vấn trong một đến hai phút và bảng điều khiển làm mới mỗi mười phút.

  2. Hacker News · AI38

    Phần khó của lập trình AI là thay đổi thứ hai

    Brian Woods lập luận rằng các tác nhân lập trình AI giúp việc tạo ra thay đổi hoạt động đầu tiên trở nên rẻ, nhưng thay đổi thứ hai mới là nơi hệ thống đổ vỡ — một tác nhân thêm cơ chế thử lại vào dịch vụ thanh toán có thể khiến khách hàng bị tính tiền hai lần ngay cả khi các bài kiểm thử vẫn đạt. Ông đề xuất yêu cầu bốn câu trả lời trước khi chấp nhận một thay đổi: đặc tả, kiểm chứng, nguồn gốc và ủy quyền, trong đó các tác nhân đề xuất thay đổi còn các quy trình độc lập tạo bằng chứng và con người phê duyệt. Ông cũng chỉ ra rằng một chứng thực có chữ ký của một bản dựng có bài kiểm thử thất bại vẫn có thể trả về VERIFIED, vì tính xác thực không đồng nghĩa với sẵn sàng phát hành.

  3. Hacker News · AI38

    NEAR AI Gateway: Sử dụng mô hình AI riêng tư trong Claude Code, Codex và OpenCode

    NEAR AI Gateway cho phép Claude Code, Codex và OpenCode định tuyến các yêu cầu AI của chúng qua các mô hình riêng tư của NEAR AI, với mô hình, token và chi phí của mỗi lần gọi được ghi lại cục bộ trên máy Mac. Các dấu vết được biên tập ẩn danh ngay trên thiết bị trước khi chia sẻ, và người dùng xem xét từng dấu vết trước khi quyết định dữ liệu nào rời khỏi máy. Các dấu vết được chấp nhận sẽ nhận được tín dụng suy luận NEAR AI Cloud; ứng dụng dành cho macOS 14+ có phiên bản 1.0.7, dung lượng 119 MB.

  4. Hacker News · AI71

    InferSSD chạy các LLM cấp 800B trên phần cứng tiêu dùng bằng cách giữ trọng số expert trên NVMe

    InferSSD, một runtime suy luận mã nguồn mở xây dựng trên llama.cpp, chạy DeepSeek-V4.1-Flash-1017 cấp 763B và Muse-Spark-Open cấp 816B trên máy tiêu dùng bằng cách giữ trọng số expert được định tuyến trên lưu trữ NVMe trong khi attention, các lớp chia sẻ và KV cache nằm trong RAM hoặc VRAM. Trên một RTX 5090 với 32 GB RAM và 32 GB VRAM, nó báo cáo 164,5 token/s prefill và 7,27 token/s decode cho DeepSeek ở mức prompt 4K, so với 8,06 và 0,867 token/s của llama.cpp trên cùng hệ thống. Bài viết cũng ước tính rằng sử dụng nặng hàng ngày có thể đồng nghĩa với khoảng 85 TB lượt đọc từ host mỗi ngày và trình bày một mô hình hao mòn SSD có điều kiện, lưu ý rằng các con số là giả định để kiểm chứng chứ không phải tuổi thọ ổ đĩa được hứa hẹn.

  5. Hacker News · AI76

    Phát hành mã nguồn mở AgentRun: Bổ sung khả năng tự cải thiện và thực thi bền vững cho các agent harness hiện có

    Parcha Labs đã mã nguồn mở AgentRun, một nền tảng agent bổ sung lớp tự cải thiện, thực thi bền vững và một console lên trên Claude Code, Codex, OpenCode và pi, theo giấy phép Apache-2.0.

    Vì sao đáng chú ý: AgentRun bổ sung lớp tự cải thiện, thực thi bền vững và một console lên trên các harness hiện có như Claude Code và Codex, đồng thời cung cấp một trường hợp cụ thể trong đó chi phí đánh giá mã giảm từ 6.451 đô la mỗi tháng xuống còn 18 xu mỗi lần chạy.

  6. Hacker News · AI31

    Air-LLM: Truyền trọng số AI tới thiết bị biên qua tính toán RF để suy luận LLM tức thời

    Air-LLM là kiến trúc suy luận LLM tại biên, trong đó một đài vô tuyến trung tâm như trạm gốc 5G phát sóng trọng số mô hình qua không gian, và người dùng biên hoàn thành GEMV trực tiếp trong miền RF bằng bộ trộn RF, nhờ đó thiết bị không bao giờ lưu trữ hay tải trọng số. Được thử nghiệm trên các kênh ray-tracing của NVIDIA Sionna trong hai cảnh đô thị thực với profile bộ trộn RF thực, nó giới hạn mức suy giảm perplexity trên WikiText-2 của LLaMA-3.1-8B ở 4.0% đồng thời tiết kiệm năng lượng 157.7x/40.4x so với baseline FP16 và lượng tử hóa chỉ trọng số. Với 20 người dùng, thời gian phát sóng ngắn hơn 104.1x/26.0x, và vì đài trung tâm không cần biết người dùng, một lần phát sóng phục vụ không giới hạn người dùng trong vùng phủ.

  7. Hacker News · AI58

    Cloudflare Workers AI giới thiệu bản xem trước Clairic, một mô hình trích xuất theo phong cách System One

    Cloudflare Workers AI đã phát hành bản xem trước Clairic, một mô hình trích xuất có kiểu mạnh mẽ, trích xuất, tính toán, ước lượng và dự báo các giá trị từ đầu vào và trả về điểm tin cậy và xác suất cho mỗi đầu ra. Mô hình có cửa sổ ngữ cảnh 65.536 token, hỗ trợ thị giác, cung cấp khả năng không lưu giữ dữ liệu và có giá $0,10 trên 1 triệu token đầu vào. Trong ví dụ hóa đơn được ghi lại, Clairic trích xuất các trường như số hóa đơn, ngày đến hạn và tổng cộng, trả về null với p_null 1 cho số PO bị thiếu, và đưa ra trung vị là 30 với khoảng p10-p90 từ 21 đến 38 cho days_to_pay.

  8. Hacker News · AI58

    CanyonOS 0.2 ra mắt dưới dạng công cụ mã nguồn mở để tìm, quan sát và mở rộng quy mô agent

    CanyonOS 0.2 là bản phát hành công khai đầu tiên của một công cụ mã nguồn mở, không phụ thuộc mô hình, dùng để tìm, quan sát và mở rộng quy mô các agent đang làm chậm quy trình làm việc. Công cụ chạy trên Docker hoặc Kubernetes, hoạt động với bất kỳ nhà cung cấp nào có API tương thích OpenAI, xuất trace và metric tương thích OpenTelemetry tới các công cụ như Datadog, Grafana, Prometheus, Langfuse và Arize Phoenix, đồng thời bổ sung chi phí và thời gian xếp hàng cho từng agent. Dự án được cấp phép AGPL-3.0, yêu cầu viết lại agent thành Python thuần với một tệp cho mỗi agent, và phần FAQ của dự án nêu rằng nó chưa từng chạy ở quy mô sản xuất lớn.

  9. Hacker News · AI38

    Headwig: Chạy và kiểm thử các AI agent song song mà không cần Git worktree

    Headwig là công cụ trên Show HN dùng để chạy và kiểm thử các AI agent song song mà không cần Git worktree. Các ứng dụng được tổ chức thành các nhóm "Wisdom", gộp các dịch vụ như frontend và backend để có thể build và chạy cùng nhau, với các dịch vụ được thêm vào qua menu Wisdom.

  10. Hacker News · AI22

    Khoảng cách giữa năng lực AI và việc thay thế công việc

    Một bài bình luận lập luận rằng AI sẽ không gây ra mất việc làm ròng đáng kể, dẫn nghiên cứu của Anthropic cho thấy khoảng 30% người lao động có mức độ phơi nhiễm với AI được đo lường bằng không. Phần lớn công việc văn phòng liên quan đến phối hợp, các trường hợp ngoại lệ và tiếp xúc với khách hàng mà AI chưa thể xử lý, và các giao diện vụng về cùng những khu vườn có tường bao vẫn cần con người để bắc cầu nối khoảng cách.

  11. Hacker News · AI58

    Stay-in-sight ra mắt công cụ email outbound mã nguồn mở với 64 công cụ MCP cho AI agent

    Stay-in-sight phát hành hệ thống email outbound giấy phép MIT, chạy trên Cloudflare Workers và D1, gửi cold outreach, newsletter và chuỗi drip từ hộp thư Gmail và SES của chính người dùng. Hệ thống cung cấp 64 công cụ MCP cùng REST API để các agent như Claude Code và Cursor có thể nhập danh bạ, lên lịch gửi và trả lời thư, và dự án tuyên bố triển khai trong khoảng 30 phút với chi phí lưu trữ miễn phí ở lưu lượng thấp hoặc 5 USD/tháng trên Workers Paid.

  12. Hacker News · AI58

    InferTrail chạy honeypot khóa API LLM trong 35 ngày và truy vết cách khóa bị đánh cắp được sử dụng

    InferTrail đã gieo 179 khóa API trên hơn 40 tổ chức GitHub giả và vận hành hai cổng LLM honeypot trong tối đa 36 ngày, ghi lại hơn 3 triệu yêu cầu. Chỉ 18 trong số các khóa được công bố được dùng để gửi prompt, và sáu khóa chiếm 98,9% các yêu cầu prompt từ khóa bị rò rỉ, trong khi 86% lưu lượng đó đến từ hạ tầng lưu trữ. Các tác giả liệt kê ba mẫu log để phát hiện việc tái sử dụng khóa: nhiều tên mô hình dưới một khóa trong một khoảng thời gian ngắn, kiểm tra đều đặn theo chu kỳ sau khi một khóa hoạt động, và sự thay đổi địa chỉ nguồn.

  13. Hacker News · AI17

    Công ty SF dùng AI để thiết kế và lắp ráp PCB trong vài tuần thay vì vài tháng

    Một công ty ở San Francisco sử dụng các công cụ AI của riêng mình để thiết kế và lắp ráp PCB, rút ngắn thời gian quay vòng từ vài tháng xuống vài tuần, từ sơ đồ nguyên lý đầu tiên đến bo mạch sẵn sàng sản xuất. Danh mục của công ty bao gồm một front-end radio định nghĩa bằng phần mềm 8 lớp nhỏ hơn 67% với hiệu suất RF tương đương, một giao diện âm thanh đeo được USB-C đã đi từ hai thiết kế thất bại đến hơn 300 đơn vị sản xuất, và một bộ điều khiển rơ le công nghiệp chắc chắn. Các hợp đồng thiết kế PCB bắt đầu từ $10.0k, điện tử tích hợp từ $25.0k, và điện tử tiên tiến từ $50.0k.

  14. Hacker News · AI38

    Terminal-Bench 4.1 ra mắt với bộ xác minh được gia cố chống reward hacking

    Terminal-Bench 4.1 được phát hành với các bộ xác minh cải tiến được thiết kế để chống lại reward hacking, và việc chấm lại TB 4.0 bằng các bộ xác minh mới không tốn thêm $0 chi phí suy luận. Chỉ khoảng 1,16% trong số 11.550 lượt thử nghiệm thay đổi điểm số, và điểm số cập nhật của cả 35 tác nhân vẫn nằm trong khoảng tin cậy 95% ban đầu của TB 4.0.

  15. Hacker News · AI60

    Cerulion 2.0 ra mắt: runtime robot mã nguồn mở tương thích ROS 2 với tính năng phát lại đa tiến trình

    Cerulion Inc. đã phát hành Cerulion 2.0, một runtime robot mã nguồn mở tương thích ROS 2, ghi lại các lần chạy và phát lại lỗi trên mã đã thay đổi, với mặc định một tiến trình cho mỗi node. Nó cung cấp các bản binary cho Linux x86_64/ARM64 và macOS, một lớp rmw_cerulion đã được kiểm thử trên Foxy đến Lyrical, và các bản ghi MCAP với xác minh phát lại chính xác từng byte, trả về mã thoát khác 0 khi có sai lệch. Trên một máy tính để bàn Linux x86-64 với payload 1 MiB, dự án báo cáo thời gian khứ hồi trung vị 4,08 µs so với 10.952 µs của ROS 2 Jazzy với mặc định rmw_fastrtps_cpp.

  16. Hacker News · AI60

    Neon và Mubit phát hành mẫu cho một agent tự cắt giảm 73% token của mô hình biên giới của chính nó

    Neon và Mubit đã công bố một mẫu cho agent phân tích dữ liệu trên Neon Functions và Lakebase Postgres, mẫu này gửi mọi lệnh gọi mô hình qua Mubit đến Neon AI Gateway. Trong bài đánh giá chuẩn của Mubit trên 20 câu hỏi CL-bench, mỗi câu chạy ba lần, thiết lập này đã cắt giảm 73% token đầu vào của gpt-5.5 và trả lời nhanh hơn 40%, với độ chính xác 65% so với 60% khi chỉ dùng gpt-5.5. Mubit chuyển các bước thường quy như liệt kê bảng và viết câu trả lời sang một mô hình nhỏ đã được tinh chỉnh sau khi mô hình này vượt qua một bài kiểm tra được xây dựng từ chính lưu lượng của tác vụ, trong khi gpt-5.5 vẫn viết mọi truy vấn SQL.

  17. Hacker News · AI35

    Dịch ngược máy lọc không khí Coway để thoát khỏi đám mây

    Một nhà phát triển đã dịch ngược máy lọc không khí Coway Airmega IconS có Wi-Fi để giảm sự phụ thuộc vào đám mây IoCare của Coway, bằng cách dựng một thiết lập man-in-the-middle với sự hỗ trợ của LLM. Tích hợp Home Assistant hiện có giả mạo ứng dụng điện thoại của Coway nhưng liên tục hỏng—bị máy chủ cấm, việc đổi thương hiệu IoCare thành IoCare+, thay đổi bố cục HTML và gián đoạn dịch vụ—thúc đẩy nỗ lực này. Một sự cố khóa yếu tại tổ chức chứng thực eMudhra vào tháng 10 năm 2026 đã mở ra một điểm bám víu khả dĩ để chặn lưu lượng của thiết bị.

  18. Hacker News · AI25

    Hệ thống AI đầu-cuối có ý nghĩa gì đối với tương lai của lái xe tự động

    Phó chủ tịch kỹ thuật của Aptiv, Guillermo Pita, giải thích cách AI đầu-cuối khác với ADAS mô-đun truyền thống bằng việc huấn luyện một mô hình duy nhất để học hành vi lái xe trực tiếp từ dữ liệu thay vì nối chuỗi các mô-đun nhận thức, theo dõi, lập kế hoạch và điều khiển riêng biệt. Ông nêu lợi thế chính là khả năng lái xe giống con người hơn, với khả năng giải thích và gỡ lỗi là những thách thức then chốt, và chỉ ra vấn đề trung tâm của việc huấn luyện là tính đa dạng của dữ liệu chứ không phải số dặm thô.

  19. MarkTechPost62

    Fish Audio phát hành Live 3, mô hình giọng nói song công hoàn toàn phản hồi trong 186 ms

    Fish Audio đã phát hành Live 3, một mô hình giọng nói song công hoàn toàn dành cho các tác nhân giọng nói thời gian thực, có khả năng tiếp tục lắng nghe trong khi nói và học cách luân phiên lượt nói từ các cuộc hội thoại thực của con người thay vì các quy tắc pipeline được tinh chỉnh thủ công. Fish Audio cho biết mô hình có thể quyết định phản hồi chỉ trong 186 ms đối với các phản ứng ngắn như "mm-hmm", tuy nhiên con số đó là mức sàn cho các phản ứng nhỏ chứ không phải thời gian đến âm thanh đầu tiên cho một câu trả lời đầy đủ, và chưa có điểm chuẩn nào được công bố. Live 3 chạy trên Fish Agent Platform (bản beta công khai), Fish Audio API và tại chỗ cho doanh nghiệp, với giá 0,035 USD mỗi phút đến ngày 31 tháng 12 năm 2026 so với giá niêm yết 0,07 USD, và chỉ hỗ trợ tiếng Anh.

  20. AWS Machine Learning Blog58

    AWS phát hành SGLang-Neuron, cho phép triển khai các mô hình tiên tiến trên Trainium với giao diện SGLang hiện có

    Amazon đã công bố tính khả dụng công khai của SGLang-Neuron, một plugin out-of-tree chạy SGLang trên AWS Trainium thông qua AWS Deep Learning Container, được phát hành bởi RadixArk cùng Annapurna Labs. Người dùng giữ nguyên giao diện máy chủ SGLang và các API sinh, trong khi plugin cung cấp các mô hình, attention, MoE dành riêng cho Trainium và một graph runner được xây dựng trên các kernel PyTorch và NKI gốc được biên dịch bằng torch.compile. Nó cũng hỗ trợ PD disaggregation, chuyển bộ nhớ đệm KV prefill sang máy chủ decode qua NIXL trên EFA, và hướng dẫn thực hành phục vụ openai/gpt-oss-120b trên một phiên bản EC2 Trainium3 với container pytorch-inference-sglang-neuronx.

  21. Hacker News · AI42

    Show HN: Bugsy – Tự động hóa bằng AI điều hành công ty tôi

    Bugsy là một hệ thống tự động hóa bằng AI, khởi đầu là một công cụ phân loại Sentry AI đơn giản và hiện nay vận hành phần lớn các hoạt động thường ngày tại một công ty khoảng 20 người. Nó xử lý việc báo cáo và sửa lỗi, đánh giá mã nguồn, số liệu đo lường và trả lời câu hỏi, đồng thời có thể truy cập từ Slack, diễn đàn công ty và các kênh của công ty.

  22. TechCrunch · AI66

    Nebius dự kiến chi 40 tỷ USD trong năm 2027 khi các dự án trung tâm dữ liệu của Microsoft bị chậm trễ

    Nebius công bố kế hoạch chi 40 tỷ USD trong năm 2027 tại cuộc gọi công bố kết quả kinh doanh quý ba, phần lớn được tài trợ bằng khoản trả trước của khách hàng và các khoản vay được bảo đảm bằng hợp đồng khách hàng. Cơ sở Vineland, New Jersey của công ty dành cho Microsoft, theo một hợp đồng trị giá lên tới 19,4 tỷ USD, đang chậm tiến độ vài tháng, với chỉ hơn một nửa công suất dành cho Microsoft hiện được dự kiến bàn giao trước cuối năm và phần còn lại vào quý hai năm 2027. Nebius hạ dự báo doanh thu năm 2026 xuống 200 triệu USD, còn 3 tỷ USD, và báo cáo doanh thu quý ba đạt 981 triệu USD, tăng 571% so với cùng kỳ năm trước, trong khi cổ phiếu giảm 17%.

  23. AWS Machine Learning Blog40

    Natera đã xây dựng SWARM như thế nào, một hệ thống AI tác tử cho vận hành phòng thí nghiệm trên Amazon Bedrock AgentCore

    Natera đã xây dựng SWARM, một hệ thống AI tác tử cho vận hành phòng thí nghiệm, trên Amazon Bedrock AgentCore, giảm thời gian phản hồi đầu tiên khoảng 130 lần và tự động hóa 96,2 phần trăm số ticket hỗ trợ. Hệ thống kết hợp một swarm-agent soạn thảo báo cáo chẩn đoán trước khi kỹ sư mở ticket với một swarm-hive để kỹ sư tương tác theo thời gian thực, cả hai cùng chia sẻ một thư viện kỹ năng. Nó xử lý hơn 65 ticket Jira mỗi ngày trên ba hàng đợi mà trước đây trung bình mất 17,4 giờ cho phản hồi đầu tiên.

  24. Databricks Blog30

    Databricks bác bỏ bốn lầm tưởng về LTAP trong kiến trúc Lakebase

    Databricks phản hồi bốn cách hiểu sai phổ biến về LTAP, kiến trúc Lakebase giữ một bản dữ liệu vận hành duy nhất được quản trị, phục vụ cả Postgres lẫn phân tích mà không cần CDC. Bài viết lập luận LTAP không phải sao chép: các lớp phía trước hồ dữ liệu là bộ nhớ đệm, không phải cơ sở dữ liệu thứ hai có catalog riêng. Bài viết cũng nói rằng heap page và Parquet là hai cách mã hóa không mất mát của cùng các hàng, nên tra cứu điểm và quét mỗi bên đọc bố cục nhanh cho mình.

  25. MIT News18

    Hệ điều hành Magnetite của Phòng thí nghiệm Lincoln MIT và hai công nghệ khác giành Giải thưởng R&D 100 năm 2026

    Ba công nghệ của Phòng thí nghiệm Lincoln MIT đã nhận Giải thưởng R&D 100 năm 2026: hệ điều hành Magnetite, được xây dựng trên nhân vi mô seL4 đã được xác minh hình thức với các dịch vụ viết bằng Rust để bảo vệ máy tính nhúng khỏi các cuộc tấn công mạng; nền tảng Quantum Microsystems, tích hợp hàng trăm chip siêu dẫn và bán dẫn vào một hệ thống quy mô tấm wafer duy nhất; và một thuật toán loại bỏ nhiễu từ trạm gốc 5G trên các thiết bị RF cùng kênh. Magnetite miễn phí cho sử dụng của chính phủ và các đối tác được phê duyệt và đang được tích hợp vào các nền tảng không gian và bay của DoW.

  26. AWS Machine Learning Blog38

    Tokenomics ở quy mô lớn: Theo dõi và giới hạn chi tiêu Amazon Bedrock theo từng IAM Principal với CUR 2.0 và AWS Budgets

    AWS hướng dẫn cách theo dõi và giới hạn chi tiêu cho AI tạo sinh Amazon Bedrock theo từng IAM principal chỉ bằng các tính năng gốc: Bedrock tự động ghi lại IAM user hoặc role trên mỗi yêu cầu suy luận, và các thẻ đó trở thành thẻ phân bổ chi phí có thể đọc được trong Cost Explorer hoặc các bản xuất CUR 2.0. Một AWS Budget giới hạn phạm vi cho Bedrock và lọc theo một danh tính hoặc giá trị thẻ có thể gắn một hành động ngân sách áp dụng chính sách Deny IAM khi vượt ngưỡng, không cần mã ứng dụng cho trường hợp thông thường.

  27. AWS Machine Learning Blog36

    Bốn lựa chọn suy luận trên Amazon Bedrock ảnh hưởng đến chi phí

    Thời lượng bộ nhớ đệm, bậc dịch vụ, nỗ lực suy luận và cài đặt maxTokens của Amazon Bedrock có thể thay đổi chi phí suy luận mà không cần thay đổi mô hình hay prompt. Ghi bộ nhớ đệm 5 phút trên Claude Sonnet 5 và Claude Opus 5 tốn 1,25 lần mức giá đầu vào, ghi 1 giờ tốn 2 lần, và đọc bộ nhớ đệm tốn 0,1 lần; các yêu cầu bậc Flex đến các mô hình không được hỗ trợ sẽ thất bại với ValidationException.

  28. Databricks Blog22

    Constellation xây dựng nền tảng dữ liệu có quản trị trên Databricks như thế nào

    Constellation, đơn vị vận hành đội hạt nhân lớn nhất Hoa Kỳ, đang xây dựng Nền tảng Dữ liệu Doanh nghiệp có quản trị trên Databricks để mang lại cho doanh nghiệp một ý nghĩa chung cho dữ liệu của mình. Nền tảng này sử dụng Unity Catalog cho phả hệ, quyền truy cập chi tiết và một mô hình phân quyền duy nhất, cùng với mô hình hóa Data Vault cho các thực thể quan trọng có thể tái sử dụng. Các trường hợp sử dụng ban đầu bao gồm một trợ lý kỹ thuật hạt nhân được xây dựng với Databricks Genie và lập kế hoạch ngừng hoạt động.

  29. Databricks Blog25

    Eclipse Aerospace sử dụng nguồn dữ liệu tùy chỉnh Databricks PySpark để nhập dữ liệu chuyến bay

    Eclipse Aerospace đang sử dụng nguồn dữ liệu tùy chỉnh Databricks PySpark để nhập gần 20 năm dữ liệu chuyến bay độc quyền, hơn 3TB trải rộng trên hơn một triệu giờ bay, mà không cần tính toán chuyên dụng luôn bật. Gói Python được hỗ trợ bởi Rust đã mang lại hiệu suất gấp đôi so với chuẩn đánh giá của một nguồn dữ liệu Python thuần dựa trên PyArrow tương tự và gần 20 lần so với triển khai Python gốc không có Arrow. API, được giới thiệu trong Apache Spark 4.0 và có sẵn trong Databricks Runtime 15.4 LTS, thay thế quy trình Lambda-to-Avro trước đó.

  30. Google AI · DEV35

    Muse Wonder, Muse Spark 1.3 và Muse Ember hiện đã có trên Google Cloud ở chế độ xem trước công khai

    Các mô hình Muse Wonder, Muse Spark 1.3 và Muse Ember của Meta hiện đã được công bố rộng rãi ở chế độ xem trước công khai trên Google Cloud. Chúng có thể được triển khai thông qua model garden trên Google Cloud với bảo mật cấp doanh nghiệp và khả năng mở rộng serverless.

  31. AWS Machine Learning Blog66

    AWS cập nhật runtime AgentCore: khởi tạo phiên nhanh gấp 15 lần và tính toán nhiều gấp 4 lần

    AWS công bố cập nhật cho runtime Amazon Bedrock AgentCore, lớp tính toán được quản lý dành cho agent, với các phiên nay khởi tạo nhanh hơn tới 15 lần, mở rộng lên tới 4 lần năng lực tính toán (tối đa 8 vCPU và 32 GB, với container image lên tới 10 GB) và chạy hiệu quả hơn tới 68%, trong khi mỗi phiên vẫn nằm trong Firecracker MicroVM cách ly phần cứng riêng. Phiên khởi tạo dưới 2 giây bất kể kích thước image hay mức đồng thời, agent nhàn rỗi tự động co về 0, và agent có thể gắn kết và lưu công việc vào hệ thống tệp như bucket Amazon S3 với hỗ trợ FUSE để dữ liệu nằm trong ranh giới tin cậy. Runtime hiện có sẵn tại các AWS Region ở Bắc Mỹ, Nam Mỹ, Châu Âu và Châu Á - Thái Bình Dương.

    Vì sao đáng chú ý: Phiên bản mới của runtime AgentCore điều chỉnh đồng thời việc khởi tạo phiên, giới hạn tính toán và tính phí bộ nhớ, mang lại cho các agent cần chạy lâu dài một sự đánh đổi mới giữa cách ly và chi phí.

  32. AWS Machine Learning Blog34

    Xây dựng cổng LLM tự phục vụ với Amazon Bedrock và LiteLLM

    Một cổng LLM tự phục vụ được xây dựng trên Amazon Bedrock Application Inference Profiles và LiteLLM chạy trên AWS Fargate, đưa các mô hình nền tảng của Bedrock ra sau một API tương thích OpenAI, mang lại cho nhà phát triển một base URL duy nhất và khóa riêng cho từng người dùng. Thiết lập này bổ sung kiểm soát chi tiêu theo từng người dùng, cô lập hạn mức theo từng mô hình và khả năng quan sát RPM/TPM qua CloudWatch, cùng với Langfuse để theo dõi telemetry ở cấp độ prompt. Việc cấp khóa tự phục vụ yêu cầu LiteLLM Enterprise, vì gói miễn phí chỉ giới hạn ở năm người dùng.

  33. AWS Machine Learning Blog34

    Tối ưu chi phí trên mỗi tác vụ và chứng minh ROI của agent trên Amazon Bedrock

    Bài viết này của AWS lập luận rằng chi tiêu cho Amazon Bedrock nên được đánh giá theo chi phí trên mỗi tác vụ thay vì chi phí trên mỗi token, vì hiệu quả của tokenizer, độ dài đầu ra, số vòng lặp agentic và chi phí suy luận có thể khiến một mô hình có giá niêm yết thấp hơn lại tốn kém hơn. Một ví dụ minh họa cho thấy một mô hình có giá niêm yết gấp 2 lần lại hoàn thành với chi phí rẻ hơn 65% trên mỗi tác vụ, và bài viết bổ sung thêm caching, định tuyến và ràng buộc đầu ra cùng một bảng điểm năm chiều để đo ROI của agent so với đường cơ sở do con người thực hiện.

  34. Databricks Blog20

    Databricks Genie Migrate chính thức GA, hỗ trợ dễ dàng di chuyển lên Lakehouse

    Databricks thông báo Genie Migrate đã chính thức được phát hành rộng rãi (GA), cho phép các công ty chuyển khối lượng công việc dữ liệu của họ lên Databricks Lakehouse với ít thao tác thủ công hơn. Công cụ này nhắm đến các nhóm đang chạy đua để xây dựng AI agent và ứng dụng trên nền dữ liệu lakehouse.

  35. SemiAnalysis85

    Nvidia và thế giới không có Jensen: Nvidia thời hậu nhà sáng lập sẽ ra sao

    SemiAnalysis lập luận rằng Nvidia được xây dựng xoay quanh Jensen Huang, người đã rời ghế CEO sau 33 năm, và việc ông ra đi làm suy yếu các cược dài hạn của công ty, các thỏa thuận phân bổ chip và những ràng buộc chuỗi cung ứng mang tính cá nhân. Bài viết cho biết dưới thời Huang, Nvidia có khoảng 60 người báo cáo trực tiếp và thiếu một đội ngũ kế nhiệm dày dặn, với Colette Kress làm CEO tạm quyền và Ian Buck cùng Jonah Alben được nêu tên như các ứng viên kỹ thuật nội bộ. Bài viết cũng gắn thời điểm này với Washington: ước tính hơn 1,5GW chip Nvidia bị hạn chế đã đến Trung Quốc, và Đạo luật An ninh Truy cập Từ xa, đã được Hạ viện thông qua với tỷ lệ 369-22, đang chờ Thượng viện bỏ phiếu.

    Vì sao đáng chú ý: SemiAnalysis xem xét cấu trúc lấy nhà sáng lập làm trung tâm của Nvidia, các thỏa thuận chuỗi cung ứng và chính sách Trung Quốc có thể thay đổi thế nào sau khi Jensen Huang rời đi, và lý do vì sao luật kiểm soát xuất khẩu đang được thúc đẩy vào lúc này.

  36. MarkTechPost71

    AWS phát hành AWS Emulator, trình giả lập cục bộ cho hơn 200 dịch vụ AWS do các AI agent viết

    AWS đã phát hành AWS Emulator, một trình giả lập cục bộ miễn phí các API AWS chạy trên laptop, dev server hoặc trong CI mà không cần tài khoản AWS, và toàn bộ mã của nó được viết và đánh giá bởi các agent tự trị. Nó được xây dựng từ 438 mô hình API AWS bao phủ hơn 200 dịch vụ và vượt qua 24.243 trong số 42.857 bài kiểm tra độ trung thực có tính điểm (56,6%) trong bản phát hành v1.0.322, với AWS KMS đạt 93,9% và AWS CloudFormation đạt 15,8%. AWS nêu rõ các giới hạn: không đánh giá chính sách IAM, một region và một tài khoản, tài nguyên trong bộ nhớ tồn tại ngắn hạn, và telemetry bật theo mặc định.

  37. LangChain Blog30

    Sở hữu trí tuệ của bạn: LangChain lý giải vì sao AI phổ thông là chưa đủ

    LangChain lập luận rằng các công ty phải sở hữu trí tuệ của mình thay vì dựa vào các mô hình phổ thông, kiểm soát ba lớp: mô hình, harness và ngữ cảnh. Họ nói rằng việc sở hữu hệ thống agent, cùng với các yếu tố kinh tế, chất lượng và rủi ro xung quanh nó, chính là điều biến AI thành lợi thế lâu dài.

  38. Claude YouTube35

    Xây dựng Claude API cho Frontier: Bên trong các quyết định phát hành và an toàn của Claude Platform

    Các kỹ sư Claude Platform Jake Dejno và Lucca Siaudzionis giải thích cách Claude API phát triển song hành cùng mỗi lần ra mắt mô hình, bao gồm các quyết định phát hành tính năng, quản lý phiên bản và di chuyển mô hình, và quản lý chi phí. Họ trình bày chi tiết các thực tiễn tốt nhất để thay đổi effort giữa cuộc trò chuyện mà không làm hỏng prompt caching, và cách Claude Mythos và Fable chia sẻ cùng trọng số mô hình với các biện pháp bảo vệ khác nhau. Claude Managed Agents và thay đổi effort giữa cuộc trò chuyện đang ở giai đoạn beta, và quyền truy cập Mythos được thực hiện thông qua Cyber Verification Program.

  39. Databricks Blog22

    H6.ai xây dựng tự động hóa tài chính bằng AI với Lakebase Postgres như thế nào

    H6.ai tự động hóa các khoản phải trả trên nền ERP hiện có của khách hàng, sử dụng một cơ sở dữ liệu Lakebase Postgres riêng cho từng khách hàng làm hệ thống lưu trữ gốc. Vì dữ liệu hóa đơn liên tục thay đổi, nhóm sử dụng các nhánh copy-on-write của Lakebase để đóng băng ảnh chụp nhanh cơ sở dữ liệu khách hàng và chạy từng bài kiểm tra hồi quy trên nhánh ngắn hạn riêng của nó, nhờ đó cơ sở dữ liệu trực tiếp không bao giờ bị ghi vào. Mỗi lần chạy được đánh giá bằng các khẳng định tất định cùng một hội đồng giám khảo AI đến từ các nhà cung cấp mô hình khác nhau.

  40. Databricks Blog58

    Databricks ra mắt Lakehouse//RT để phục vụ phân tích thời gian thực mà không tăng chi phí tương ứng

    Databricks giới thiệu Lakehouse//RT, một engine phân tích thời gian thực chạy các khối lượng công việc có độ đồng thời cao trực tiếp trên dữ liệu lakehouse và hiện đang ở giai đoạn beta. Công ty cho biết nó đạt độ trễ dưới 100 mili giây với 12.000 truy vấn mỗi giây, bổ sung dung lượng từng node một và tránh cần một lớp phục vụ riêng; các khách hàng Aurasell, VisionHeight và nOps báo cáo chi phí hạ tầng thấp hơn 6 đến 10 lần sau khi chuyển từ các thiết lập đa cụm, Apache Pinot và Apache Druid.