Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

DeepSeek tung công nghệ mới, tăng tốc AI tới 85% và giảm áp lực phần cứng

Dspark của DeepSeek được giới thiệu tăng tốc đến 85% nhưng lại tiết kiệm được chip và năng lượng.
Tác giả: Thục Quân
DeepSeek tung công nghệ mới, tăng tốc AI tới 85% và giảm áp lực phần cứng

Cuộc cạnh tranh trong lĩnh vực trí tuệ nhân tạo (AI) đang chuyển từ việc phát triển các mô hình ngày càng lớn sang tối ưu hiệu quả vận hành. DeepSeek vừa công bố DSpark – công nghệ mới giúp tăng đáng kể tốc độ phản hồi của các mô hình AI mà không cần nâng cấp đáng kể hạ tầng phần cứng.

Theo DeepSeek, DSpark được tích hợp vào mô hình V4 và sử dụng kiến trúc giải mã suy đoán (speculative decoding). Thay vì tạo từng token theo cách truyền thống, hệ thống sử dụng một mô hình nhỏ để tạo trước các phản hồi dự kiến, sau đó mô hình lớn sẽ xác minh theo từng cụm dữ liệu. Cách tiếp cận này giúp rút ngắn thời gian xử lý và tăng hiệu quả sử dụng GPU.

Công ty cho biết tốc độ phản hồi có thể cải thiện tới 85%. Điều này đồng nghĩa một GPU trước đây xử lý khoảng 100 truy vấn có thể phục vụ gần 185 truy vấn trong cùng khoảng thời gian, giúp giảm đáng kể chi phí vận hành trung tâm dữ liệu.

Ngoài ra, DSpark còn áp dụng cơ chế tạo nhiều token trong một lần xử lý thay vì từng token riêng lẻ, kết hợp hệ thống điều phối dựa trên mức độ tin cậy để tự động cân bằng giữa tốc độ và độ chính xác tùy theo tải tính toán của hệ thống.

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp