Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

Kimi K3 của Moonshot AI: Bài toán thị trường có thể nằm ở bộ nhớ

Khi R1 của DeepSeek tung ra đầu năm ngoái, 600 tỉ USD vốn hóa của Nvidia bị bốc hơi. Lần này, thị trường phản ứng tương tự với Kimi K3 của Moonshot, nhưng lo ngại có thể thiếu cơ sở.
Tác giả: Sunny Bangia
Kimi K3 của Moonshot AI: Bài toán thị trường có thể nằm ở bộ nhớ

Khi DeepSeek trình làng mô hình R1 vào đầu năm 2025, khoảng 600 tỉ USD vốn hóa thị trường của Nvidia Corp. đã bị thổi bay chỉ trong một ngày do mối lo ngại rằng trí tuệ nhân tạo sẽ đòi hỏi ít năng lực tính toán hơn so với dự báo trước đó. Việc Moonshot AI phát hành Kimi K3 vào thứ Sáu tuần qua kích hoạt phản ứng tương tự, góp phần đẩy nhóm cổ phiếu bán dẫn giảm điểm mạnh.

Tuy nhiên, việc so sánh hai trường hợp này có thể đã bỏ qua một điểm khác biệt quan trọng. Bước đột phá của DeepSeek tập trung vào việc giảm chi phí huấn luyện và vận hành các mô hình AI. Kimi K3 cũng giúp cải thiện hiệu suất tính toán, nhưng đạt được điều đó với một mô hình lớn hơn rất nhiều, qua đó đặt ra yêu cầu cao hơn hẳn đối với hạ tầng bộ nhớ. Yếu tố này có thể sẽ tiếp tục duy trì nhu cầu đối với dòng bộ nhớ băng thông cao (HBM) từ SK Hynix, các hệ thống AI thế hệ mới nhất của Nvidia, cũng như quy trình sản xuất chip tiên tiến từ Taiwan Semiconductor Manufacturing Co. (TSMC).

Theo dữ liệu do Bloomberg tổng hợp từ công bố của các nhà phát triển, Kimi K3 sở hữu 2.800 tỉ tham số, trở thành mô hình AI lớn nhất từ trước đến nay của Trung Quốc, đồng thời đẩy tỷ lệ thưa (sparsity ratio, chỉ số đo lường hiệu suất tính toán) lên mức kỷ lục. Tỉ lệ này càng cao đồng nghĩa với việc số lượng tham số cần kích hoạt cho mỗi tác vụ càng ít so với tổng quy mô của mô hình.

lo trinh cong bo trong so mo

Dù vậy, toàn bộ 2.800 tỉ tham số đó vẫn bắt buộc phải được lưu trữ trong bộ nhớ. Ngay cả khi đã nén mô hình bằng các định dạng dữ liệu độ chính xác thấp hơn, Kimi K3 vẫn chiếm khoảng 1,4 terabyte dung lượng bộ nhớ. Do đó, việc triển khai mô hình này đòi hỏi các cụm bộ xử lý AI giàu tài nguyên bộ nhớ, chẳng hạn như hệ thống Blackwell GB300 của Nvidia.

Theo Bloomberg

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp