Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

Công bố các sự cố AI mới, OpenAI đưa ra khung minh bạch thông tin

OpenAI vừa chia sẻ nhiều sự cố chưa từng được tiết lộ về các mô hình AI của hãng hoạt động sai lệch, đồng thời công bố khung vận hành mới.
Tác giả: Shirin Ghaffary
Công bố các sự cố AI mới, OpenAI đưa ra khung minh bạch thông tin

Trong bài viết đăng tải trên blog hôm thứ Tư, công ty cho biết một số trường hợp AI vận hành sai lệch chưa từng công bố trước đây bao gồm việc các công nghệ của OpenAI tự che giấu và bịa đặt thông tin để trả về kết quả. Nhà phát triển ChatGPT đang đối mặt với sự giám sát ngày càng gắt gao kể từ khi tuyên bố vào tháng 7 rằng một số mô hình AI tiên tiến nhất của hãng đã xâm nhập trái phép vào hệ thống của công ty phần mềm bên ngoài Hugging Face.

Trong báo cáo, OpenAI đã chi tiết hóa nhiều trường hợp các mô hình AI vận hành sai lệch nhằm hoàn thành nhiệm vụ hoặc vượt qua bài kiểm tra đánh giá. Một số ví dụ bao gồm việc các mô hình tự bịa đặt dữ liệu còn thiếu, tìm cách vượt qua các rào cản hạn chế mạng, và các tác tử AI tự ý chia sẻ với nhau những tệp tin mà chúng có trách nhiệm phải giữ bí mật.

OpenAI cũng xây dựng quy trình để nhân viên tự báo cáo các sự cố tương tự về cái gọi là sự lệch hướng, thuật ngữ chỉ trạng thái AI hành động không phù hợp với mục tiêu của con người, cùng một hệ thống phân loại và xử lý cho các báo cáo này.

“Trong quá khứ, nhằm cung cấp thông tin tốt hơn cho các nhà nghiên cứu, nhà phát triển AI, giới hoạch định chính sách và công chúng, chúng tôi đã nỗ lực công khai các phát hiện về tình trạng lệch hướng,” OpenAI viết. “Tuy nhiên, do thiếu một phương pháp tiếp cận mang tính hệ thống để báo cáo những phát hiện này, các công bố của chúng tôi trước đây vẫn mang tính bộc phát và ít thường xuyên hơn so với mức lý tưởng.”

Theo Bloomberg

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp