Đề xuất cấm phát triển trí tuệ nhân tạo gây tổn hại người dùng

Chính phủ đề xuất cấm phát triển hệ thống AI có khả năng giả mạo người, thao túng nhận thức và hành vi, gây tổn hại nghiêm trọng đến quyền và lợi ích hợp pháp của người dùng.

Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng trình Ủy ban Thường vụ Quốc hội dự án Luật Trí tuệ nhân tạo.

Tối 17/11, Bộ trưởng Bộ Khoa học và Công nghệ Nguyễn Mạnh Hùng trình Ủy ban Thường vụ Quốc hội dự án Luật Trí tuệ nhân tạo. Dự thảo lần đầu xác lập khái niệm "hệ thống AI có rủi ro không chấp nhận được" - tức những hệ thống có thể gây tổn hại nghiêm trọng, không thể khắc phục đối với quyền con người, an ninh quốc gia, trật tự, an toàn xã hội hoặc được tạo ra để thực hiện hành vi bị pháp luật cấm. Các hệ thống thuộc nhóm này bị cấm phát triển, cung cấp, triển khai hoặc sử dụng dưới mọi hình thức tại Việt Nam.

Những dấu hiệu nhận biết gồm: hệ thống được thiết kế phục vụ hành vi bị cấm; sử dụng yếu tố giả mạo hoặc mô phỏng người, sự kiện thật nhằm lừa dối, thao túng nhận thức và hành vi có chủ đích, gây tổn hại nghiêm trọng đến quyền lợi người dùng; lợi dụng điểm yếu của nhóm dễ tổn thương; tạo hoặc lan truyền nội dung giả mạo có nguy cơ cao đối với an ninh quốc gia, trật tự, an toàn xã hội.

Theo tờ trình, AI phát triển quá nhanh kéo theo nhiều rủi ro mới về an ninh. Công nghệ deepfake có thể bị lợi dụng để tạo tin giả, bôi nhọ, lừa đảo, gây bất ổn xã hội. Các hệ thống vũ khí tự động cũng đặt ra nhiều vấn đề đạo đức và pháp lý quốc tế. Trong khi đó, tốc độ hoàn thiện pháp luật lại chậm hơn công nghệ, khiến khoảng trống quản lý ngày càng lớn. Vì vậy, Chính phủ cho rằng cần sớm xây dựng khung pháp lý để vừa kiểm soát rủi ro, vừa thúc đẩy nghiên cứu và ứng dụng AI tại Việt Nam.

Bộ trưởng Nguyễn Mạnh Hùng cho biết dự luật nhằm tạo khung pháp lý thống nhất bảo đảm AI phát triển an toàn, có trách nhiệm, vì con người. AI được xác định là hạ tầng trí tuệ quốc gia, là động lực của tăng trưởng năng suất, đổi mới sáng tạo và nâng cao năng lực tự chủ công nghệ, cạnh tranh quốc gia.

Dự thảo Luật AI gồm 8 chương, 36 điều; nhấn mạnh chính sách phát triển AI lấy con người làm trung tâm, làm rõ vai trò quản lý và kiến tạo của Nhà nước. Luật thiết lập cơ chế quản lý theo mức độ rủi ro, bảo đảm việc ứng dụng AI minh bạch, an toàn, có kiểm soát và trách nhiệm giải trình; bảo vệ an ninh, an toàn, chủ quyền dữ liệu và quyền dự trữ công nghệ quốc gia.

Dự luật cũng yêu cầu hệ thống AI phải không gây hại, không thiên lệch, tôn trọng giá trị nhân văn; có cơ chế giám sát, thanh tra, xử lý vi phạm nhằm bảo đảm răn đe và củng cố niềm tin xã hội. Chính phủ sẽ thúc đẩy hệ sinh thái đổi mới sáng tạo và phát triển nhân lực chất lượng cao thông qua cơ chế hỗ trợ nghiên cứu, đầu tư, đào tạo cho viện nghiên cứu, doanh nghiệp và cá nhân tham gia phát triển AI.

Ủy ban Khoa học - Công nghệ cơ bản đồng tình với chính sách của dự thảo, song đề nghị làm rõ tiêu chí định lượng hoặc định tính để phân loại AI theo mức độ rủi ro. Cơ quan thẩm tra đề xuất bổ sung hành vi cấm nhằm tăng tính răn đe và thống nhất trong áp dụng pháp luật, như cấm sử dụng AI tạo deepfake để lừa đảo, xúc phạm nhân phẩm, gây rối chính trị, thao túng bầu cử hoặc xâm phạm an ninh quốc gia.

Chính phủ sẽ trình Quốc hội dự án Luật Trí tuệ nhân tạo vào ngày 21/11, các đại biểu thảo luận tại hội trường ngày 27/11.

Vnexpress