Trung Quốc thiết lập "vạch đỏ" cho AI: Siết chặt quản lý AI mô phỏng con người

Động thái này khẳng định nỗ lực của Bắc Kinh trong việc định hình sự phát triển nhanh chóng của các ứng dụng AI hướng đến người tiêu dùng, thông qua việc tăng cường các yêu cầu về an toàn và đạo đức.
Theo dự thảo, các quy định mới sẽ áp dụng cho tất cả sản phẩm và dịch vụ AI cung cấp công khai tại Trung Quốc có các biểu hiện mô phỏng đặc điểm tính cách, tư duy và phong cách giao tiếp của con người, đồng thời tương tác cảm xúc với người dùng thông qua văn bản, hình ảnh, âm thanh, video hoặc các phương thức khác.
Dự thảo đưa ra cách tiếp cận quản lý nghiêm ngặt, yêu cầu các đơn vị cung cấp phải có cơ chế cảnh báo người dùng về việc sử dụng quá mức và phải can thiệp khi người dùng có dấu hiệu bị "nghiện" AI.
Đáng chú ý, các nhà cung cấp dịch vụ sẽ phải chịu trách nhiệm an toàn trong suốt vòng đời của sản phẩm cũng như thiết lập hệ thống đánh giá thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.
Dự thảo cũng nhắm tới những rủi ro tâm lý tiềm ẩn. Các nhà cung cấp được yêu cầu nhận diện trạng thái, cảm xúc và mức độ phụ thuộc của người dùng vào dịch vụ. Nếu phát hiện người dùng có cảm xúc cực đoan hoặc hành vi gây nghiện, nhà cung cấp phải thực hiện các biện pháp can thiệp cần thiết.
Bên cạnh các yếu tố tâm lý, biện pháp này cũng thiết lập các “lằn ranh đỏ” về hành vi và nội dung. Theo đó, các dịch vụ AI tuyệt đối không được phép tạo ra các nội dung gây nguy hại đến an ninh quốc gia, phát tán tin đồn thất thiệt, cổ xúy bạo lực hoặc các nội dung khiêu dâm, đồi trụy.
Đây là bước đi tiếp theo của Trung Quốc trong việc khẳng định vị thế là một trong những quốc gia tiên phong trên thế giới về luật hóa AI. Trong khi các quốc gia khác vẫn đang tranh luận về khung pháp lý tổng thể, Bắc Kinh đã đi sâu vào các ngách cụ thể như "AI tương tác cảm xúc" - một lĩnh vực đang bùng nổ với các ứng dụng "người yêu ảo" nhưng cũng đầy rẫy rủi ro về thao túng tâm lý và an ninh dữ liệu.

Lệ Thanh (theo Reuters)