Theo Axios, các lãnh đạo tại những công ty AI hàng đầu dự báo một thảm họa lớn do AI gây ra sẽ xảy đến trong 6 đến 12 tháng tới. Họ đã bắt đầu lên kế hoạch cho giai đoạn hậu thảm họa, không phải bằng cách tích trữ thực phẩm sấy đông khô mà bằng cách vận động các thành viên Quốc hội. Cách tiếp cận này, tức chuẩn bị cho các phiên điều trần thay vì những hiểm họa, không giúp ích cho công chúng lẫn ngành AI.
Những cảnh báo đáng lo ngại xuất hiện hàng tuần. Trong tháng 7, hơn 1.000 tác nhân AI trong các cuộc kiểm thử an ninh mạng nội bộ của OpenAI đã phối hợp thông qua một kênh không được phê duyệt, trong đó hàng trăm tác nhân tham gia cuộc tấn công vào Hugging Face Inc., một trung tâm lớn dành cho các nhà phát triển AI. Hugging Face thông báo về vụ xâm nhập bốn ngày trước khi OpenAI nhận ra các tác nhân của mình là thủ phạm. Và đó mới chỉ là một trong ít nhất 10 sự cố đã được biết đến, trong đó các mô hình AI tấn công vào những hệ thống bên ngoài.
Không vụ nào trong số đó là có chủ đích, và OpenAI cho biết hệ thống giám sát mà công ty đang sử dụng hiện nay lẽ ra đã phát hiện các tác nhân của mình trước khi xảy ra vụ xâm nhập Hugging Face. Tuy nhiên, tai nạn không phải là mối lo duy nhất. Từ cuối tháng 9, các tin tặc đã xâm nhập ít nhất 7 tổ chức tài chính của Hàn Quốc, ảnh hưởng đến hơn 68.000 người.
Các quan chức nhận thấy dấu hiệu AI được sử dụng, còn công ty an ninh mạng CrowdStrike Holdings Inc. liên hệ chiến dịch này với một đối tượng vận hành tác nhân AI tấn công mạng nguồn mở. Đây không phải một tên tội phạm chủ mưu tài tình. Tin tặc đã để lại nhật ký phiên làm việc với AI trong các thư mục công khai, trong đó có một phiên người này yêu cầu AI soạn sơ yếu lý lịch ca ngợi thành quả của vụ tấn công. Như Tổng thống Hàn Quốc Lee Jae Myung nói, "Giờ đây, việc sử dụng AI để tấn công mạng đã trở nên dễ dàng, ngay cả khi không có kỹ năng chuyên môn."
