Việc Trung Quốc đón nhận trí tuệ nhân tạo nguồn mở đang tạo ra sự cạnh tranh gay gắt đối với Thung lũng Silicon. Điều này cũng trở thành một nguồn ảnh hưởng lớn của Bắc Kinh, giúp thu hút các nhà phát triển quốc tế và trở thành trụ cột trong lời kêu gọi hợp tác với Khối các nước Nam Bán cầu (Global South) cũng như gia tăng ảnh hưởng đối với cuộc cách mạng công nghệ tiếp theo của Chủ tịch Tập Cận Bình.
Tuy nhiên, khi các mô hình nguồn mở ngày càng trở nên mạnh mẽ hơn, Bắc Kinh đang phải chật vật tìm cách duy trì những lợi ích của tính minh bạch mà không để chính những ưu điểm đó biến thành rủi ro.
Chính phủ các nước không thể làm lơ trước thực tế này. Một sự cố nghiêm trọng về an toàn AI có thể dễ dàng lan rộng qua các biên giới. Điều đó có nghĩa là các phòng thí nghiệm lớn từ Hàng Châu đến San Francisco đều có mọi động lực để đi trước các rủi ro này trước khi một thảm họa xảy ra làm chậm sự phát triển của AI trên toàn cầu — tương tự như cái cách mà thảm họa Fukushima tại Nhật Bản từng đẩy Nước Đức rời xa năng lượng hạt nhân.
Một lập luận dai dẳng, phần lớn đến từ những người bên trong các công ty phát triển mô hình đóng lớn, cho rằng các hệ thống nguồn mở vốn dĩ kém an toàn hơn. Về mặt lý thuyết thì điều này có vẻ hợp lý: Một khi các trọng số mô hình (model weights) được công bố, các nhà phát triển sẽ mất kiểm soát đối với cách chúng được sử dụng. Tuy nhiên, nhiều vụ lạm dụng AI rầm rộ nhất lại xảy ra với các mô hình đóng có hàng rào bảo vệ kém. Điều đó có thể là do các mô hình đóng vẫn có hiệu suất tốt hơn, hoặc do kẻ xấu thấy chúng dễ sử dụng hơn so với việc phải đầu tư phần cứng và kiến thức chuyên môn cần thiết để triển khai các phương án nguồn mở. Dù thế nào đi nữa, điều đó có nghĩa là an toàn AI không thể bị đơn giản hóa thành một cuộc tranh luận chỉ xoay quanh "nguồn mở đối lập với nguồn đóng".
