Zyphra đã hợp tác với AMD để ra mắt nền tảng AI mã nguồn mở hoàn toàn mới, cạnh tranh với DeepSeek và được đặt tại Mỹ, tất cả đều được hỗ trợ bởi GPU MI355X. Zyphra Cloud - DeepSeek của Trung Quốc đã có mặt và được hỗ trợ bởi một hệ thống mạnh mẽ hoàn toàn của AMD với 15MW sức mạnh tính toán thông qua MI355X và khả năng mở rộng sang các GPU trong tương lai.

Nền tảng Zyphra AI Cloud là một dịch vụ được tối ưu hóa cho suy luận dành cho các mô hình mã nguồn mở tiên tiến như DeepSeek V3.2, Kimi K2.6 và GLM 5.1. Nền tảng này kết hợp các nhân tùy chỉnh, thuật toán suy luận ngữ cảnh dài mới và các kỹ thuật song song tiên tiến để mang lại hiệu suất AI thông lượng cao, độ trễ thấp, hoàn hảo cho các tác nhân, nghiên cứu chuyên sâu và quy trình làm việc dài hạn.

Nền tảng đám mây của Zyphra được cung cấp bởi TensorWave, bao gồm hàng nghìn bộ tăng tốc AI AMD Instinct. Nền tảng đám mây sẽ khai thác 15MW sức mạnh tính toán do hệ thống TensorWave MI355X cung cấp, và cũng có khả năng mở rộng sang các GPU thế hệ tương lai như MI450 và hơn thế nữa (MI500?).

Nhưng nền tảng này không chỉ được thiết kế cho các tác vụ suy luận; Zyphra dự định mở rộng Cloud thành một nền tảng tích hợp rộng hơn với các khả năng sắp ra mắt như học tăng cường và tinh chỉnh. Những khả năng này sẽ được hỗ trợ bởi CPU EPYC mới nhất của AMD, cùng với quyền truy cập vào các cụm GPU chuyên dụng. "TensorWave tồn tại để cung cấp cho các công ty chuyên về AI như Zyphra khả năng tính toán AMD hiệu năng cao, chuyên dụng mà họ cần mà không cần phải thỏa hiệp," Jeff Tatarchuk, Đồng sáng lập và Giám đốc Tăng trưởng của TensorWave cho biết. "Việc hỗ trợ Zyphra Inference bằng cơ sở hạ tầng MI355X của chúng tôi chính xác là loại hình hợp tác mà chúng tôi đã xây dựng TensorWave - cho phép các nhóm triển khai AI sẵn sàng cho sản xuất trên các bộ tăng tốc AMD mới nhất ở quy mô lớn."

TensorWave đã công bố vào năm 2024 kế hoạch xây dựng một trong những cụm GPU AMD lớn nhất thế giới vào năm 2025, với các GPU MI300X, MI325X và MI350X. Hệ thống này dự kiến ​​sẽ cung cấp công suất tính toán nhiều gigawatt. Hiện nay, các công ty AI như Zyphra đang tận dụng tối đa công suất đã được lắp đặt bằng cách cung cấp năng lượng cho các quy trình làm việc AI dựa trên tác nhân cho khách hàng của họ.

Công ty AI này đã giới thiệu ba mô hình: ZAYA1-8B (Suy luận), ZAYA1-74B (mô hình MoE với tối đa 74 tỷ tham số) và ZAYA1-VL, mô hình ngôn ngữ-hình ảnh đầu tiên của họ. Những mô hình này được bổ sung vào các dịch vụ điện toán đám mây suy luận mà công ty đang cung cấp.

Theo Hassan Mujtaba https://wccftech.com/zyphra-amd-launch-open-ai-platform-powered-by-15mw-mi355x-gpus/