Nghiên cứu, phát triển hệ thống AI có trách nhiệm

Bộ trưởng KH&CN Huỳnh Thành Đạt vừa ban hành Quyết định 1290 về việc hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống trí tuệ nhân tạo (AI) có trách nhiệm.

Ban hành kèm theo quyết định này tài liệu hướng dẫn một số nguyên tắc về nghiên cứu, phát triển các hệ thống AI có trách nhiệm (phiên bản 1.0).

Tài liệu hướng dẫn nêu rõ: Theo xu thế chung trên thế giới, các hệ thống AI được đánh giá sẽ mang lại các lợi ích to lớn cho con người, xã hội và nền kinh tế Việt Nam thông qua việc hỗ trợ, giải quyết các vấn đề khó khăn mà con người, cộng đồng đang phải đối mặt.

Tuy nhiên, song song với quá trình đó, cần nghiên cứu, có biện pháp giảm thiểu các rủi ro trong quá trình phát triển, sử dụng AI và cân đối các yếu tố kinh tế, đạo đức và pháp lý liên quan.

Vì vậy, các cơ quan chuyên môn cần nghiên cứu, xây dựng các tiêu chuẩn, hướng dẫn để định hướng kể cả đó là các quy định mềm và không có tính ràng buộc. Việc chia sẻ, trao đổi thông tin về các quy trình, các biện pháp thực hành tốt giữa các bên liên quan như nhà phát triển, nhà cung cấp dịch vụ, người dùng cũng sẽ thúc đẩy sự đồng thuận để gia tăng lợi ích từ các hệ thống AI và kiểm soát được các rủi ro.

Trên tinh thần đó, việc nghiên cứu, phát triển các hệ thống AI ở Việt Nam cần hướng đến một xã hội lấy con người làm trung tâm, mọi người được hưởng những lợi ích từ cuộc sống cũng như từ các hệ thống AI.

Bảo đảm sự cân bằng hợp lý giữa lợi ích và rủi ro của các hệ thống AI. Bảo đảm các hoạt động nghiên cứu, phát triển các hệ thống AI dựa trên các công nghệ hoặc kỹ thuật cụ thể nhưng vẫn bảo đảm tính trung lập về công nghệ và các nhà phát triển cũng không bị ảnh hưởng bởi sự phát triển quá nhanh của các công nghệ liên quan đến AI trong tương lai.

Ở giai đoạn hiện nay, tạm thời xác định rằng các văn bản có thể ở dạng hướng dẫn, không có tính ràng buộc và khuyến khích xây dựng, áp dụng các tiêu chuẩn, quy trình thực hành dựa trên các khuyến nghị quốc tế làm nền tảng để thúc đẩy nghiên cứu, phát triển và sử dụng các hệ thống AI.

Trong mọi trường hợp, khuyến khích việc trao đổi, thảo luận với sự tham gia của các bên liên quan đến hệ thống cho dù việc nghiên cứu, phát triển các hệ thống AI trong các lĩnh vực có các đặc điểm, cách thức sử dụng và lợi ích, rủi ro khác nhau.

Ngoài ra, các nguyên tắc, hướng dẫn sẽ tiếp tục được nghiên cứu, cập nhật để phù hợp với tình hình thực tiễn.

Tài liệu hướng dẫn trên nhằm thúc đẩy sự quan tâm của các bên liên quan trong việc nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng AI ở Việt Nam một cách có trách nhiệm.

Thúc đẩy việc nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng AI một cách an toàn và có trách nhiệm, đồng thời hạn chế tối đa các ảnh hưởng tiêu cực cho con người và cộng đồng.

Thúc đẩy việc chia sẻ kinh nghiệm trong hoạt động nghiên cứu, phát triển và sử dụng các hệ thống/ứng dụng AI nhằm đạt được sự tin tưởng của người dùng và xã hội đối với AI cũng chính là tạo điều kiện thuận lợi cho việc nghiên cứu, phát triển AI ở Việt Nam.

Tài liệu hướng dẫn này nêu ra một số nguyên tắc chung cần chú ý trong nghiên cứu, phát triển các hệ thống AI một cách có trách nhiệm và khuyến nghị tự nguyện tham khảo, áp dụng trong quá trình nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống AI.

Cơ quan, tổ chức khoa học và công nghệ, tổ chức, doanh nghiệp, cá nhân có hoạt động nghiên cứu, thiết kế, phát triển, cung cấp các hệ thống AI được khuyến khích áp dụng các nội dung trong tài liệu hướng dẫn.