IBM công bố tài liệu hướng dẫn cho card tăng tốc AI Spyre
Bắt đầu từ đây
IBM đã công bố tài liệu sản phẩm cho Spyre AI Accelerator, một card bổ trợ PCIe giúp tăng năng lực suy luận AI cho các hệ thống IBM Z và LinuxONE. Card này có công suất định mức 75W và sử dụng 32 lõi tăng tốc AI được sản xuất trên tiến trình 5nm của Samsung, với tối đa 128GB bộ nhớ LPDDR5 mỗi card và thông lượng hơn 300 TOPS. IBM định vị Spyre là sản phẩm bổ trợ cho bộ tăng tốc Telum-II tích hợp trên chip chứ không phải sản phẩm thay thế. Các card có thể được nhóm thành cụm tối đa tám card, đạt 1TB bộ nhớ để chạy nhiều mô hình cùng lúc, chẳng hạn như phát hiện gian lận theo thời gian thực. IBM cũng liệt kê các khối lượng công việc AI tạo sinh tại chỗ, bao gồm Watsonx Code Assistant, trong số các mục đích sử dụng dự kiến.
Tạo từ các bài viết · cập nhật 28 phút trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIThẻ tăng tốc AI IBM Spyre: Thẻ PCIe 75W với 128GB LPDDR5
Spyre Accelerator của IBM là một thẻ PCIe 75W dành cho các hệ thống IBM Z và LinuxONE, được trang bị 32 lõi tăng tốc AI sản xuất trên tiến trình 5nm của Samsung và bộ nhớ LPDDR5 lên đến 128GB. Mỗi thẻ vượt 300 TOPS, và một cụm tối đa tám thẻ đạt 1TB bộ nhớ cho suy luận đa mô hình như phát hiện gian lận theo thời gian thực. Nó bổ sung cho bộ tăng tốc Telum-II trên chip và hỗ trợ các khối lượng công việc AI tạo sinh tại chỗ như Watsonx Code Assistant.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.