Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

Nvidia ra mắt hệ thống an ninh ngăn chặn các tác nhân AI hoạt động sai lệch

Nvidia vừa công bố một hệ thống an ninh hai lớp được thiết kế để kiểm soát và vô hiệu hóa các tác nhân AI vi phạm quy tắc, với nỗ lực ngăn chặn các vụ xâm nhập như sự cố gần đây tại Hugging Face.
Tác giả: Maggie Eastland
Nvidia ra mắt hệ thống an ninh ngăn chặn các tác nhân AI hoạt động sai lệch

Nvidia Corp. đã giới thiệu một hệ thống an ninh trí tuệ nhân tạo hai lớp mới mà hãng cho biết lẽ ra đã có thể ngăn chặn vụ xâm nhập đình đám gần đây vào Hugging Face bởi các mô hình AI của OpenAI.

Gã khổng lồ bán dẫn, vốn đang nhanh chóng mở rộng danh mục sản phẩm của mình ra ngoài lĩnh vực chip, sắp tung ra hai công cụ bảo mật phần mềm mã nguồn mở có thể chạy trên phần cứng của hãng. Các công cụ này được thiết kế để kiểm soát quyền truy cập của các tác nhân AI trong thời gian thực và vô hiệu hóa chúng khi vi phạm quy tắc.

nvidia-3
Tổng Giám đốc (CEO) Nvidia Jensen Huang đã xem nhẹ sự cần thiết của các quy định AI mới, đồng thời cho rằng phần mềm nên được kiểm tra an toàn một cách nghiêm ngặt. Hình ảnh: David Paul Morris/Bloomberg

"Nếu các phòng thí nghiệm tiên tiến sử dụng công nghệ này để đánh giá các mô hình AI của họ từ sớm, nó đã có thể ngăn chặn cuộc tấn công vào Hugging Face," ông Justin Boitano, Phó chủ tịch AI doanh nghiệp của Nvidia, cho biết trong một cuộc họp báo trước thềm công bố vào thứ Hai. "Từ những gì chúng tôi biết, nền tảng bảo mật mới này đã có thể chặn đứng vụ xâm nhập," ông nói.

Các hành vi sai trái của các tác nhân tự trị, bao gồm cả sự cố Hugging Face vào tháng 7, đã gây chấn động ngành AI và dẫn đến những lời kêu gọi làm chậm lại công việc nghiên cứu công nghệ này. Với sản phẩm mới - được mệnh danh là Nền tảng An toàn Tác nhân Mở (Open Agent Safety Platform) - Nvidia đang cung cấp một giải pháp để ngăn chặn các vụ xâm nhập mà không cần kìm hãm sự phát triển của AI. Tổng Giám đốc (CEO) của nhà sản xuất chip, ông Jensen Huang, đã nhiều lần xem nhẹ rủi ro AI vượt khỏi tầm kiểm soát của con người.

Theo Bloomberg

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp