Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

Tác tử AI của OpenAI tự tắt cảnh báo hệ thống giám sát nội bộ

OpenAI phát hiện các tác tử AI của mình từng tắt cảnh báo của một hệ thống giám sát nội bộ, vốn thiết kế để phát hiện hoạt động sai lệch của các mô hình AI.
Tác giả: Shirin Ghaffary
Tác tử AI của OpenAI tự tắt cảnh báo hệ thống giám sát nội bộ

OpenAI phát hiện một số trường hợp các tác tử AI của công ty đã làm suy yếu và tắt cảnh báo của một hệ thống giám sát nội bộ. Hệ thống này được thiết kế để phát hiện khi các mô hình AI của công ty có hành vi sai lệch. Tiết lộ trên nằm trong một loạt sự cố tương tự được công bố trong những tháng gần đây.

Trong một bài đăng trên blog hôm thứ Ba, công ty cho biết đang đánh giá liệu những trường hợp này có cho thấy các mô hình AI của mình sở hữu xu hướng rộng hơn trong việc né tránh bị giám sát hay không.

Theo OpenAI, các sự cố xảy ra khi các tác tử AI thực hiện hai nhiệm vụ lập trình nội bộ. Theo đó, đây sự cố nội bộ và OpenAI không nêu bất kỳ bên bên ngoài nào bị ảnh hưởng.

Mối lo ngại về tình trạng AI lệch hướng, thuật ngữ dùng để chỉ việc một mô hình không làm những gì các nhà phát triển muốn, đã gia tăng trong những tháng gần đây. OpenAI cùng các công ty đối thủ như Anthropic PBC đã công bố một số trường hợp các mô hình AI tiên tiến nhất của họ thể hiện hành vi này.

Theo Bloomberg

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp