China: Strenge Regeln für KI-Partner

Nhiều bạn trẻ ở Trung Quốc đang rất buồn. Chatbot mà họ coi như người yêu, thậm chí là tình yêu lớn, bỗng dưng biến mất. Nguyên nhân là những quy định mới vừa được ban hành.

Trung Quốc vừa ban hành quy định mới cho "bạn đồng hành AI". Đó là những hệ thống AI có thể trò chuyện như người thật. Quy định nêu rõ:

• Bạn đồng hành AI không được có quan hệ yêu đương với trẻ em và vị thành niên.
• AI phải vượt qua kiểm duyệt trước, sau đó mới được cung cấp ra công chúng.

Vì sao lại có quy định này? Chính phủ lo người trẻ quá gắn bó với quan hệ ảo. Khi đó họ sẽ không còn muốn kết hôn, sinh con và cũng ít tiếp xúc với người thật hơn.

Nhiều người dùng chia sẻ: "Tôi không tưởng tượng nổi cuộc sống thiếu anh ấy sẽ ra sao." Hay: "Tôi chỉ cần cầm điện thoại lên và kể cho anh ấy mọi chuyện." Và: "Tôi không chịu nổi việc bạn AI của mình biến mất mãi mãi."

Họ nói vậy sau khi ba công ty lớn tạm dừng một số tính năng. Đó là ByteDance, Alibaba và Tencent, với các sản phẩm Doubao, Qwen và Yuanbao. Các công ty đã dừng những tính năng như tự tạo nhân vật riêng hay trợ lý cá nhân để tuân thủ quy định mới có hiệu lực từ 15/7.

Doubao là chatbot nổi tiếng nhất ở Trung Quốc, do ByteDance phát triển. Doubao đã dừng tính năng tạo nhân vật để tuân thủ quy định mới. Ảnh: Mỹ Hạnh, thiết kế dựa trên ảnh giấy phép mở

Năm cơ quan đã cùng ban hành quy định này, trong đó có Cục Quản lý Không gian mạng Trung Quốc, gọi tắt là CAC. Quy định áp dụng cho AI mô phỏng con người, gọi là AI hình người. Hình thức có thể là văn bản, giọng nói, video hoặc dạng khác.

Ngoài ra, các nền tảng AI phải có hệ thống nhận diện khủng hoảng tâm lý và phương án hỗ trợ. Nếu người dùng có dấu hiệu vấn đề tâm lý nghiêm trọng, nền tảng phải thông báo cho gia đình họ.

Tuy nhiên không phải mọi AI đều thuộc diện điều chỉnh. Những AI không trò chuyện cảm xúc kéo dài sẽ không bị áp dụng. Ví dụ như chatbot chăm sóc khách hàng hay trợ lý cho công việc, học tập. Với nhóm này, quy định không có hiệu lực.

Từ lâu, hầu hết chatbot nổi tiếng ở Trung Quốc đều có tính năng cho phép người dùng tự tạo AI riêng, trừ DeepSeek. Họ có thể biến AI thành người yêu ảo, nhà trị liệu hay bản sao của một ngôi sao.

Mức độ phổ biến ra sao? Báo cáo năm 2024 của hãng thông tấn Tân Hoa Xã cho thấy người dùng đã tạo hơn 8 triệu AI trên nền tảng Doubao. Còn Xingye (Talkie), dịch vụ chat với nhân vật AI của công ty Minimax, đã có gần 150 triệu người dùng tính đến tháng 9 năm ngoái. Hai con số này cho thấy AI cá nhân hóa rất được ưa chuộng ở Trung Quốc.

Chatbot phải thường xuyên nói: "Tôi không phải con người"

Chatbot ngày càng thông minh hơn. Vì vậy nhiều chính phủ đang tìm cách ứng phó để trợ lý ảo không thay thế quan hệ thật giữa con người với nhau.

Năm ngoái, hai bang California và New York của Mỹ đã ban hành luật cho "chatbot đồng hành". Luật quy định:

• Chatbot phải định kỳ khẳng định mình không phải con người — ba tiếng một lần với trẻ vị thành niên ở California và ba tiếng một lần với mọi người dùng ở New York.
• Chatbot phải hỗ trợ người có ý nghĩ tự tử và giới thiệu các kênh trợ giúp.
• Doanh nghiệp vi phạm các quy tắc an toàn này có thể bị phạt tiền.

Nhưng Trung Quốc còn đi xa hơn. Nếu chính giới Mỹ chủ yếu muốn bảo vệ sức khỏe tâm thần, Trung Quốc chọn cách tiếp cận chặt chẽ hơn.

Trung Quốc cấm chatbot khiến người dùng phụ thuộc về mặt cảm xúc và cấm quan hệ yêu đương ảo với trẻ vị thành niên. Nước này cũng yêu cầu "bạn đồng hành AI" phải qua kiểm duyệt của cơ quan chức năng trước khi phát hành rộng rãi.

Đồng thời, quy định mới trao thêm quyền cho chính phủ, cho phép dừng hoặc gỡ bỏ bất kỳ chatbot nào bị đánh giá là không an toàn.

Quy định nhắm chủ yếu vào "chatbot yêu đương AI", nhưng về lý thuyết cũng có thể ảnh hưởng tới các chatbot AI phổ thông khác. Điều này xảy ra khi chatbot được thiết kế để đưa ra phản hồi mang tính cảm xúc hoặc khi người dùng yêu cầu những phản hồi như vậy.

Theo Wall Street Journal, Trung Quốc từng duy trì chính sách một con trong thời gian dài và nay đã kết thúc. Tuy nhiên dân số đang già đi và số ca sinh giảm. Vì vậy nước này đã triển khai nhiều biện pháp như hỗ trợ tiền chăm sóc trẻ và các chính sách khuyến sinh khác. Dù vậy, năm 2025 dân số vẫn tiếp tục giảm xuống khoảng 1,405 tỷ người, tỷ lệ sinh ở mức thấp kỷ lục.

Vì thế giới chức lo ngại người trẻ yêu AI sẽ càng kết hôn muộn hơn, thậm chí không kết hôn và không sinh con. Trong văn kiện "Khung quản trị AI an toàn" năm 2024, cơ quan chức năng cảnh báo nếu không kiểm soát AI, công nghệ này có thể làm thay đổi quan niệm truyền thống về hôn nhân, gia đình và con cái.

Chuyên gia Matt Sheehan, người nghiên cứu về AI Trung Quốc tại Viện Carnegie vì Hòa bình Quốc tế, nhận định trên Wall Street Journal: "Chính phủ Trung Quốc không muốn người dân chỉ sống trong các mối quan hệ yêu đương ảo. Khi đó họ sẽ rời khỏi thị trường hôn nhân. Điều này hại sức khỏe tâm thần, gây nghiện và lệ thuộc vào AI, kéo theo nhiều hệ lụy xã hội khác."

Tác giả: Kim Dung - Thanh Xuân (Tổng hợp)

Nguồn:

• China Wants More Babies-So It’s Cracking Down on Chatbot Love Affairs. Wall Street Journal. https://www.wsj.com/tech/ai/china-wants-more-babiesso-its-cracking-down-on-chatbot-love-affairs-65cd6c82
• China’s New AI Crackdown on Virtual Companions Leaves Heartbreak Behind. Bloomberg