Ai chịu trách nhiệm khi AI gây lỗi tại nơi làm việc?
Các công ty đang trao cho hệ thống AI nhiều quyền hơn, nhưng chỉ 10% nhà quản lý cho rằng nhà cung cấp phải có trách nhiệm nếu bot gây ra sai sót nghiêm trọng.
Tác giả: Jo Constantz
Các công ty đang trao cho những hệ thống trí tuệ nhân tạo nhiều quyền tự chủ hơn để nâng cao năng suất và hiệu quả. Tuy nhiên, khi các bot đảm nhận ngày càng nhiều trách nhiệm, lãnh đạo doanh nghiệp, quản lý và nhân viên vẫn chưa rõ ai phải chịu trách nhiệm khi xảy ra sự cố.
Một báo cáo mới do trường Wharton thuộc đại học Pennsylvania công bố hôm thứ Ba cho thấy các nhà quản lý hầu như không có sự đồng thuận. Khi được hỏi ai phải chịu trách nhiệm nếu một bot "gây ra sai sót nghiêm trọng", những người trả lời được chia tương đối đồng đều giữa nhân viên triển khai tác nhân AI, quản lý của nhân viên đó và bộ phận quản trị rủi ro của công ty, với khoảng một phần tư lựa chọn mỗi bên. Khoảng 10% quy trách nhiệm cho nhà cung cấp, trong khi một tỉ lệ tương tự cho biết họ không chắc ai phải chịu trách nhiệm.
Câu hỏi về trách nhiệm đang trở nên cấp thiết hơn khi các công ty như OpenAI, Google thuộc Alphabet Inc. và Meta Platforms Inc. đưa những tác nhân AI ngày càng mạnh vào tay nhân viên. Các bot này được cấp danh tính doanh nghiệp riêng và có thể tự chủ theo đuổi các mục tiêu, trong một số trường hợp kéo dài nhiều ngày.
Dù những lo ngại về các tác nhân AI hoạt động ngoài tầm kiểm soát đã chiếm lĩnh các tiêu đề trong những tháng gần đây, rủi ro trước mắt đối với doanh nghiệp có thể bình thường và ít kịch tính hơn nhiều. Leeron Walter, phó chủ tịch tại Teramind, công ty cung cấp phần mềm giám sát nhân viên, cho biết một lỗi nhỏ trong câu lệnh hoặc chỉ dẫn không rõ ràng có thể nhanh chóng leo thang thành một cuộc khủng hoảng lớn hơn khi các tác nhân AI được quyền truy cập vào những hệ thống đang vận hành như tài khoản email hoặc cơ sở dữ liệu khách hàng.
