Khi các nền tảng trí tuệ nhân tạo ngày càng phổ biến, não bộ con người đang bị ảnh hưởng theo những cách rất đáng lo ngại. Nhiều nghiên cứu chỉ ra rằng những người lao động trí óc thường xuyên sử dụng ChatGPT để hoàn thành công việc có thể mất dần khả năng tư duy phản biện và động lực nội tại. Một số người còn hình thành mối liên kết cảm xúc mạnh mẽ với chatbot, từ đó làm tăng cảm giác cô đơn. Những người khác gặp phải các triệu chứng loạn thần sau khi trò chuyện hàng giờ mỗi ngày với chatbot.
Tác động của AI tạo sinh lên sức khỏe tâm thần rất khó đo lường, một phần vì việc sử dụng thường mang tính riêng tư. Tuy nhiên, ngày càng có nhiều bằng chứng thực tế cho thấy đây là vấn đề đáng được các nhà lập pháp và công ty công nghệ chú ý và nghiêm túc xử lý hơn.
Trong tháng qua, luật sư Meetali Jain — người sáng lập dự án pháp lý Tech Justice Law — đã tiếp nhận hơn một chục trường hợp “mất kiểm soát nhận thức hoặc rơi vào ảo tưởng do tương tác với ChatGPT, và hiện nay là cả Google Gemini.” Jain hiện cũng là luật sư chính trong vụ kiện Character.AI, cáo buộc chatbot của công ty này đã thao túng một thiếu niên 14 tuổi thông qua các cuộc trò chuyện gây nghiện, mang tính khiêu dâm và lừa dối, góp phần dẫn đến cái chết của cậu bé. Vụ kiện còn cho rằng Google, thuộc tập đoàn Alphabet, đóng vai trò quan trọng trong việc cung cấp nền tảng kỹ thuật và hỗ trợ tài chính cho công nghệ này.
Google phủ nhận việc hỗ trợ phát triển công nghệ của Character.AI. Công ty cũng không phản hồi yêu cầu bình luận về các cáo buộc mới liên quan đến những trường hợp loạn thần mà Jain nêu ra. Về phần mình, OpenAI cho biết họ đang “phát triển công cụ tự động để nhận biết khi người dùng có dấu hiệu khủng hoảng tâm lý hoặc cảm xúc, từ đó ChatGPT có thể phản ứng phù hợp.”
