Đăng ký Hội viên Premium

Bạn cần có tài khoản thu phí để truy cập nội dung này.

Đăng ký ngay
Hoặc

Đã có tài khoản?

Đăng nhập tại đây

Ấn phẩm in mới nhất

  • Xem tất cả

Một sản phẩm của BEACON MEDIA

AI & Dữ liệu lớn

Anthropic đối mặt với những vấn đề lớn hơn việc Claude có cảm xúc

Anthropic đang tập trung vào việc bảo vệ Claude khỏi hành vi ngược đãi, trong khi những rủi ro lớn hơn trước thềm IPO có thể nằm ở nhiều vấn đề to lớn hơn.
Tác giả: Parmy Olson
Anthropic đối mặt với những vấn đề lớn hơn việc Claude có cảm xúc

Trước một đợt phát hành cổ phiếu lần đầu ra công chúng (IPO), các công ty thường lo liệu nhiều việc, chẳng hạn như sắp xếp lại tài chính và bảo đảm có đội ngũ quản lý phù hợp. Anthropic PBC lại có một nguồn bất an khá khác thường: sản phẩm cốt lõi của công ty có thể đang gặp vấn đề.

Tuần trước, công ty cho biết việc liên tục đối xử tàn nhẫn với Claude, mô hình trí tuệ nhân tạo của mình, sẽ trở thành hành vi vi phạm chính sách sử dụng chính thức. Quy định này có hiệu lực từ tháng tới, nhằm vào những hành vi ngược đãi nghiêm trọng và lặp đi lặp lại. Nếu bạn thuộc kiểu người hay chửi chiếc máy in của mình, điều hoàn toàn có thể thông cảm, hoặc đập chuột xuống bàn mạnh hơn mức cần thiết, bạn cũng có thể trút cơn giận lên một chatbot.

Anthropic đã lo ngại về vấn đề này từ một thời gian. Khoảng một năm trước, công ty trao cho Claude khả năng kết thúc cuộc trò chuyện với những người dùng liên tục lăng mạ nó. Giờ đây, các lãnh đạo Anthropic đang chính thức hóa quan điểm rằng các mô hình AI xứng đáng được bảo vệ ở mức độ nhất định trước sự ngược đãi, dù chưa có bằng chứng cho thấy Claude thực sự chịu đau khổ.

Sức khỏe của Claude đã trở thành mối quan tâm lớn đến mức một người đồng sáng lập Anthropic được cho là suýt rút khỏi chuyến thăm chính thức tới Vatican hồi đầu năm nay, sau khi đọc một đoạn trong thông điệp dài 40.000 từ của Giáo hoàng Leo XIV, trong đó nêu rằng các mô hình AI "không trải qua các kinh nghiệm" và không cảm nhận niềm vui hay nỗi đau. Nói cách khác, chúng không có ý thức.

Theo Bloomberg

Bài liên quan

  • Theo quy định của Luật Xuất Bản của Việt Nam, Bloomberg L.P. và Công ty Cổ phần Beacon Asia Media đạt thỏa thuận với Báo Tài Nguyên và Môi Trường (nay là Báo Nông Nghiệp và Môi Trường) (là cơ quan báo chí chịu sự quản lý của Bộ Nông Nghiệp và Môi Trường) để báo là đơn vị chính thức tại Việt Nam chịu trách nhiệm phát hành ấn phẩm Phát Triển Xanh có nội dung trao đổi và hợp tác với Bloomberg Businessweek Vietnam

PHÁT TRIỂN XANH - Chuyên trang của Báo điện tử Tài nguyên và Môi trường

Trụ sở: Số 10, đường Tôn Thất Thuyết, phường Mỹ Đình, quận Nam Từ Liêm, thành phố Hà Nội

Giấy phép xuất bản số 37/GP-CBC do Bộ Thông tin và Truyền thông cấp ngày 21/10/2024

Tổng biên tập: Hoàng Mạnh Hà

Phó tổng biên tập phụ trách báo điện tử: Lê Xuân Dũng

Phó tổng biên tập: Lý Thị Hồng Điệp