Trung Quốc siết quản lý AI, nhiều nền tảng lớn công bố gỡ bỏ tính năng “bạn đồng hành ảo”

(CNII) - Từ ngày 15/7, các nền tảng AI lớn tại Trung Quốc như Doubao của ByteDance và Qwen của Alibaba đã đồng loạt gỡ bỏ tính năng cho phép người dùng tạo hoặc tùy chỉnh “bạn đồng hành ảo”. Động thái này diễn ra nhằm tuân thủ những “Quy định tạm thời về quản lý dịch vụ AI tương tác giống con người” do Cục Quản lý Không gian mạng Trung Quốc (CAC) ban hành, qua đó tăng cường công tác quản lý và bảo đảm tính hợp lệ của các nội dung, dịch vụ AI.

“Quy định tạm thời về quản lý dịch vụ AI tương tác giống con người” đã đặt ra nhiều “lằn ranh đỏ” cho các nền tảng đang cung cấp dịch vụ này. Nội dung của quy định nêu rõ, không được phát triển các nội dung cổ súy hoặc ám chỉ hành vi tự làm tổn hại đến sức khỏe thể chất, hoặc các nội dung bạo lực ngôn từ làm tổn hại đến nhân phẩm và sức khỏe tinh thần của người dùng.

Đối với người dùng vị thành niên, nền tảng không được đưa ra những nội dung không an toàn có thể khiến trẻ vị thành niên bắt chước, phát sinh cảm xúc cực đoan hoặc hình thành các thói quen xấu, từ đó ảnh hưởng đến sự phát triển thể chất và tinh thần của trẻ.

Ngoài ra, quy định cũng nghiêm cấm việc phát triển các nội dung quá “chiều” theo ý người dùng, tạo ra sự phụ thuộc về mặt cảm xúc hoặc gây nghiện, làm tổn hại đến các mối quan hệ xã hội và khả năng giao tiếp thực tế của người dùng

Theo thông báo của Doubao, việc ngừng cung cấp tính năng “bạn đồng hành ảo” là một phần trong kế hoạch tối ưu hóa chức năng sản phẩm. Sau khi tính năng này chính thức được gỡ bỏ, người dùng vẫn có thể xem và sao lưu thông tin của agent cũng như lịch sử trò chuyện trước đó đến hết ngày 15/10.

Thời gian gần đây, các quy định về quản lý nội dung và dịch vụ AI tại Trung Quốc liên tục được siết chặt. Tháng 4 năm nay, Cục Quản lý Không gian mạng Trung Quốc đã phối hợp với nhiều cơ quan chức năng khác ban hành “Quy định tạm thời về quản lý dịch vụ AI tương tác giống con người”. Bộ quy định này đưa ra những yêu cầu cụ thể về an toàn nội dung, bảo vệ quyền sở hữu trí tuệ, quyền riêng tư và bảo vệ trẻ vị thành niên đối với các nền tảng AI có thể tương tác như con người, đồng thời sẽ chính thức có hiệu lực từ ngày 15/7/2026.

Bên cạnh đó, từ tháng 4 năm nay, Văn phòng Ủy ban An ninh mạng và Thông tin Trung ương Trung Quốc cũng đã phát động chiến dịch chấn chỉnh các hành vi sai phạm trong phát triển ứng dụng AI. Chỉ trong giai đoạn đầu, cơ quan chức năng đã xử lý hơn 14.000 sản phẩm AI vi phạm, bao gồm nhiều website, ứng dụng và AI Agent, đồng thời gỡ bỏ hơn 1.300 sản phẩm AI không đáp ứng quy định.