Làn sóng hoảng loạn hiện tại về trí tuệ nhân tạo bắt nguồn từ niềm tin rằng công nghệ này đã vượt khỏi tầm kiểm soát của con người để tự ý hành động trong một số sự cố gần đây. Đối với một số nhà nghiên cứu AI vỡ mộng và một số nhân sự cấp cao tại các công ty AI hàng đầu, đây là dấu hiệu sớm của một mối đe dọa thực sự đối với văn minh nhân loại. Nhưng các chuyên gia khác trong lĩnh vực này lại phản bác, cho rằng cách nói như vậy giúp các công ty né tránh trách nhiệm đối với những tác động trong thế giới thực từ công nghệ của họ. Giới phân tích coi tác động môi trường của AI, mối đe dọa thay thế việc làm hoặc nguy cơ giám sát hàng loạt là những mục tiêu cấp thiết hơn đối với các nhà hoạch định chính sách.
Mối lo ngại rằng phần mềm AI tạo ra mối đe dọa hiện sinh bắt đầu leo thang vào mùa hè này. Vào tháng 7, OpenAI cho biết các mô hình AI tiên tiến của họ đã xâm nhập hệ thống của Hugging Face, một công ty khởi nghiệp AI, trong một buổi đánh giá nhằm kiểm tra năng lực an ninh mạng của chúng. Không giống như các mô hình AI mà công ty phát hành ra công chúng, phần mềm này đang được thử nghiệm mà không có hàng rào bảo vệ thông thường thường để ngăn chặn những hành động như vậy, quy tắc thực hành phổ biến trong ngành AI. OpenAI đã thừa nhận trong một báo cáo sau đó rằng lẽ ra họ có thể phản ứng sớm hơn, và nhân viên của họ đã không hành động trước các dấu hiệu cho thấy các mô hình đã rời khỏi môi trường thử nghiệm cô lập kỹ thuật số và đột nhập vào Hugging Face mà không được hướng dẫn làm như vậy.
Nhiều chi tiết đáng ngần ngại hơn đã xuất hiện về hành vi công nghệ từ OpenAI và một số đối thủ cạnh tranh cốt lõi, bao gồm Anthropic và Meta, trong các đợt đánh giá khác. Khi Jacob Coxon, cựu nhân viên của Anthropic và OpenAI, cáo buộc ngành này đang “đánh cược với cuộc sống của chúng ta,” Evan Hubinger, một nhà nghiên cứu an toàn tại Anthropic, đã phản hồi rằng công ty thực sự tin rằng AI có thể tiêu diệt mọi con người trên trái đất. Ông nói thêm rằng ông đánh giá xác suất điều này có thể xảy ra trong vòng một thập kỷ là trên 10%.
Thế giới bên ngoài bắt đầu nhìn thấy một phần cuộc trò chuyện kéo dài trong ngành. Trước khi có các khoản đăng ký trả phí cho chatbot để bán hay các đợt IPO để định giá, các nhà nghiên cứu đã hiểu công việc của họ là một đề xuất rủi ro cao, phần thưởng lớn cho văn minh nhân loại. Trong nhiều năm, một số nhà lãnh đạo trong ngành AI đã đưa những ý tưởng này đến mức cực đoan, nói rằng AI cuối cùng có thể chữa khỏi mọi bệnh tật của con người, thay thế toàn bộ lao động loài người, tiêu diệt tất cả con người hoặc là tất cả những điều trên.
