Đề xuất dùng AI tạo nội dung giả mạo có thể bị phạt đến 2 tỉ đồng

Sáng 21/11, trong khuôn khổ kỳ họp thứ 10, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng thay mặt Thủ tướng trình Quốc hội dự án Luật Trí tuệ nhân tạo.

Đây là lần đầu tiên Việt Nam xây dựng luật riêng điều chỉnh toàn diện hoạt động nghiên cứu, ứng dụng và quản lý AI trong bối cảnh công nghệ này phát triển nhanh, tiềm ẩn nhiều rủi ro về an ninh, đạo đức và pháp lý.

Theo tờ trình, AI đang trở thành công nghệ then chốt của Cách mạng công nghiệp 4.0, mang lại nhiều cơ hội đổi mới nhưng cũng đặt ra khoảng trống lớn trong quản lý.

Việt Nam hiện chưa có cơ chế phân loại rủi ro, chưa có quy trình kiểm định hay cấp phép với các mô hình AI, đặc biệt nhóm rủi ro cao.

Trách nhiệm pháp lý khi AI gây ra thiệt hại cũng chưa được xác lập rõ ràng, trong khi các hành vi như deepfake, lừa đảo, thao túng hoặc tạo nội dung giả mạo đang gia tăng mạnh.

Sản phẩm do AI tạo ra phải gắn nhãn và minh bạch

Một trong những điểm đáng chú ý của dự luật là yêu cầu minh bạch, gắn nhãn và giải trình đối với sản phẩm AI. Nhà cung cấp phải bảo đảm hệ thống AI được thiết kế và vận hành theo cách cho phép nhận diện, giám sát và giải thích phù hợp với mức độ rủi ro.

Họ cũng phải cung cấp cho bên triển khai đầy đủ thông tin, hướng dẫn và dữ liệu để thực hiện đúng nghĩa vụ minh bạch và gắn nhãn.

Bên triển khai có trách nhiệm thông báo rõ ràng cho người dùng khi nội dung do AI tạo ra hoặc chỉnh sửa thuộc trường hợp phải gắn nhãn.

Với các tác phẩm sáng tạo như âm nhạc, mỹ thuật hoặc trình diễn, việc gắn nhãn phải được thực hiện theo phương thức không cản trở việc thưởng thức.

Việc gắn nhãn bắt buộc áp dụng đối với các nội dung sau:

• Nội dung do AI tạo ra hoặc chỉnh sửa có yếu tố giả mạo, mô phỏng người thật hoặc sự kiện thật và có khả năng khiến người xem, người nghe hoặc người đọc hiểu nhầm là thật.

• Nội dung do AI tạo ra phục vụ truyền thông, quảng cáo, tuyên truyền hoặc cung cấp thông tin công khai. Các trường hợp khác theo quy định của Thủ tướng.

Phân loại rủi ro theo bốn cấp độ

Dự thảo luật phân loại hệ thống AI thành bốn mức rủi ro gồm không chấp nhận được, cao, trung bình và thấp. Nhà cung cấp phải tự đánh giá và chịu trách nhiệm với kết quả phân loại trước khi đưa hệ thống ra thị trường.

Nhóm rủi ro không chấp nhận được sẽ bị cấm hoàn toàn. Danh mục này gồm các hệ thống hỗ trợ hành vi vi phạm pháp luật, công nghệ giả mạo có khả năng thao túng gây hại nghiêm trọng, ứng dụng khai thác điểm yếu của trẻ em hoặc người cao tuổi, cùng các sản phẩm có nguy cơ ảnh hưởng tới an ninh quốc gia.

Đề xuất phạt đến 2 tỉ đồng nếu dùng AI tạo nội dung vi phạm

Dự thảo luật cũng quy định rõ cơ chế xử lý vi phạm và trách nhiệm bồi thường. Tùy tính chất và hậu quả, tổ chức và cá nhân vi phạm có thể bị xử phạt hành chính hoặc truy cứu trách nhiệm hình sự. Nếu gây thiệt hại phải bồi thường theo quy định.

Đáng chú ý, mức xử phạt đối với hành vi vi phạm thuộc Điều 11 có thể lên tới 2 phần trăm doanh thu của năm trước tại Việt Nam. Nếu tái phạm, mức phạt tối đa có thể tăng lên 2 phần trăm doanh thu toàn cầu của tổ chức.

Trường hợp tổ chức không có doanh thu hoặc mức phạt tính theo doanh thu thấp hơn khung tối đa, mức phạt trần sẽ là 2 tỉ đồng đối với tổ chức và 1 tỉ đồng đối với cá nhân. Với các hành vi vi phạm khác ngoài Điều 11, mức phạt tối đa vẫn giữ ở 2 tỉ đồng cho tổ chức và bằng một nửa đối với cá nhân.