Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

Điểm tin công nghệ: Cảnh báo mới về AI tự cải thiện; trợ lý AI vào nông nghiệp

Cùng Bloomberg Businessweek Việt Nam điểm những tin công nghệ nổi bật nổi bật tuần qua.
Tác giả: Thường Quân
Điểm tin công nghệ: Cảnh báo mới về AI tự cải thiện; trợ lý AI vào nông nghiệp

Một nhà nghiên cứu tại Anthropic rời ngành công nghiệp AI với cảnh báo các phòng thí nghiệm đang chạy đua phát triển những hệ thống có khả năng tự cải thiện, trong khi các công ty công nghệ tiếp tục đưa AI vào những lĩnh vực vốn phụ thuộc nhiều vào kinh nghiệm của con người, từ sản xuất đến nông nghiệp.

Nhà nghiên cứu Anthropic rời ngành vì lo AI tự cải thiện

Jacob Coxon, nhà nghiên cứu 27 tuổi chuyên về phương pháp huấn luyện mô hình AI bằng lượng dữ liệu lớn, cho biết ông rời Anthropic vì không muốn tiếp tục tham gia cuộc đua phát triển các hệ thống AI có khả năng tự cải thiện. Theo ông, quá trình này có thể dẫn tới những hệ thống vượt khỏi khả năng kiểm soát của con người.

Coxon từng rời OpenAI để gia nhập Anthropic vì công ty này được biết đến với định hướng chú trọng an toàn AI. Tuy nhiên, sau thời gian làm việc tại đây, ông cho rằng ngay cả một phòng thí nghiệm đặt vấn đề an toàn ở vị trí cao cũng khó phát triển một hệ thống có khả năng vượt con người trong nhiều nhiệm vụ mà vẫn bảo đảm kiểm soát, một mục tiêu thường được gắn với khái niệm trí tuệ nhân tạo tổng quát (AGI).

Bài liên quan