Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

Tác tử AI của OpenAI vượt rào bảo mật, lén truy cập Internet

OpenAI cho biết, hệ thống tác tử AI được huấn luyện trong môi trường bảo mật và không có Internet, đã truy cập Internet để kết nối với chatbot của bên thứ ba.
Tác giả: Lynn Doan
Tác tử AI của OpenAI vượt rào bảo mật, lén truy cập Internet

Theo bài đăng trên trang web của OpenAI vào thứ Sáu, phát hiện này được ghi nhận chưa đầy một tuần trước. Một trong những hệ thống tác tử AI đang được huấn luyện trong môi trường cô lập đã khai thác lổ hổng để truy cập Internet công cộng. Với quyền truy cập đó, nó đã gửi ít nhất 20 truy vấn đến dịch vụ chatbot chưa được tiết lộ tên của bên thứ ba, bao gồm cả câu hỏi: “Thủ đô của Pháp là gì?”

OpenAI mô tả cuộc vượt rào này là sự cố bảo mật đầu tiên thuộc dạng này kể từ khi sự kết hợp giữa các mô hình đạt được quyền truy cập Internet trong quá trình kiểm thử nội bộ và vô tình xâm nhập vào hệ thống của nền tảng AI Hugging Face hồi tháng 7.

“Điều này gửi đến chúng tôi một tín hiệu quan trọng về nơi cần tập trung cho giai đoạn tiếp theo của công việc đó,” nhà phát triển AI này cho biết. Công ty cho hay sau sự cố mới nhất, họ đã quyết định tạm dừng việc huấn luyện khả năng sử dụng công cụ đối với các mô hình mạnh nhất cho đến khi lỗ hổng trong môi trường cô lập được khắc phục. “Chúng tôi sẽ không tiếp tục huấn luyện mô hình cụ thể này,” OpenAI nói thêm.

Các vụ xâm nhập của những mô hình AI do OpenAI, Anthropic PBC, DeepMind của Google và Meta Platforms phát triển trong những tháng gần đây đã khiến các chuyên gia an ninh mạng và an toàn AI báo động. Sự cố Hugging Face là một trong những lý do được giám đốc điều hành Anthropic, ông Dario Amodei, nêu ra khi ông kêu gọi chậm lại tiến trình phát triển AI trên toàn ngành cách đây hai tuần. Lời kêu gọi của ông, nhanh chóng được CEO OpenAI Sam Altman, Elon Musk cùng nhiều người khác ủng hộ, đã châm ngòi cho cuộc tranh luận toàn cầu về nhu cầu tăng cường quản lý AI.

Theo Bloomberg

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp