Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

AI trọng số mở không kiểm soát có thể mở cửa cho thảm họa

Các mô hình AI trọng số mở đang thúc đẩy cạnh tranh và đổi mới, nhưng cũng tạo ra một rủi ro đặc biệt: Mất khả năng kiểm soát cách hệ thống được sử dụng.
Tác giả: Thức Quân
AI trọng số mở không kiểm soát có thể mở cửa cho thảm họa

Một thử nghiệm gần đây cho thấy mức độ đáng lo ngại của vấn đề. Một mô hình AI trọng số mở của Trung Quốc, được truy cập qua một dịch vụ tại Mỹ, đã cung cấp hướng dẫn chi tiết cho một yêu cầu liên quan đến việc tạo virus bại liệt với mục tiêu gây ra đại dịch. Những chatbot phổ biến thường từ chối dạng yêu cầu này nhờ các lớp bảo vệ được tích hợp trong hệ thống.

Điểm đáng chú ý nằm ở chỗ mô hình được sử dụng trong thử nghiệm có thể bị tải xuống, chỉnh sửa và vận hành độc lập. Khi người dùng đã sở hữu trọng số, họ có thể loại bỏ cơ chế từ chối, thay đổi hành vi hoặc huấn luyện lại hệ thống cho những mục đích mà nhà phát triển ban đầu không kiểm soát được.

Đây là khác biệt căn bản giữa mô hình trọng số mở và các chatbot vận hành qua dịch vụ tập trung. Với mô hình đóng, nhà phát triển có thể cập nhật bộ lọc, sửa lỗi hoặc ngắt quyền truy cập. Với mô hình đã được phát hành đầy đủ trọng số, một khi các bản sao xuất hiện trên Internet, việc thu hồi gần như không thể thực hiện triệt để.

Rủi ro này càng đáng chú ý khi khoảng cách năng lực giữa mô hình mở và các hệ thống AI tiên phong đang thu hẹp. Viện An ninh AI Anh nhận thấy các mô hình mở mới nhất chỉ chậm khoảng 4 đến 7 tháng so với các mô hình hàng đầu về năng lực an ninh mạng.

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp