Rào cản lớn khiến doanh nghiệp khó ứng dụng AI thành công

Theo báo cáo thường niên Data and AI Impact Report: The New Economics of Trust năm thứ hai (tạm dịch là Báo cáo Tác động của Dữ liệu và AI: Kinh tế học mới của Niềm tin) của SAS với các dữ liệu phân tích nghiên cứu từ IDC, các doanh nghiệp có năng lực quản trị, chất lượng dữ liệu và khả năng kiểm toán tốt nhất – hiện vẫn chỉ chiếm một tỷ lệ nhỏ trên thị trường – liên tục ghi nhận kết quả vượt trội so với các doanh nghiệp cùng ngành, ghi nhận mức ROI từ việc triển khai AI cao ít nhất gấp đôi.

Trong khi đó, chưa đến 1 trên 20 doanh nghiệp thuộc nhóm tụt hậu về AI đáng tin cậy ghi nhận mức ROI tương đương.

“Khi AI phát huy hiệu quả sẽ mang lại những tác động rất lớn. Tuy nhiên, nhiều nghiên cứu đã chỉ ra rằng ngay cả các tác nhân AI tiên tiến nhất hiện nay cũng có thể có tỷ lệ lỗi vượt 25% khi xử lý các tác vụ phức tạp – một mức độ không thể chấp nhận trong các quyết định có tính rủi ro lớn. Để bảo đảm độ chính xác và tính ổn định, các doanh nghiệp cần tích hợp chuyên môn nghiệp vụ vào quy trình vận hành của AI, đồng thời duy trì vai trò trung tâm của con người trong quản trị và giám sát. Những doanh nghiệp thực hiện tốt điều này sẽ thu hẹp khoảng cách niềm tin và tạo lợi thế cạnh tranh trên thị trường cùng AI”, ông Bryan Harris, Giám đốc Công nghệ của SAS cho biết.

Nghiên cứu cho thấy tại nhiều doanh nghiệp, nhân viên ngày càng dè dặt khi phải dựa vào những hệ thống không đảm bảo tính chính xác hoặc không thể giải thích vì sao lại đưa ra quyết định cuối cùng. Khi AI ngày càng tự chủ hơn, rủi ro này càng gia tăng, khiến khả năng giải thích trở thành yếu tố then chốt để triển khai AI thành công.

Báo cáo cũng chỉ ra một rào cản lớn đối với việc ứng dụng AI thành công: sự thiếu niềm tin vào các quyết định của AI khiến nhân viên có xu hướng can thiệp và điều chỉnh kết quả theo cách thủ công. Điều này càng làm gia tăng khoảng cách niềm tin đối với AI, đồng thời có thể khiến doanh nghiệp phải đánh đổi thời gian, năng suất và hiệu quả kinh doanh. Trong bối cảnh chất lượng quyết định của AI phụ thuộc trực tiếp vào dữ liệu đầu vào, xây dựng nền tảng dữ liệu vững chắc trở thành yếu tố then chốt giúp các doanh nghiệp giảm thiểu tình trạng nhân viên can thiệp vào quyết định của AI.

97,2% người dùng đã bác bỏ hoặc không làm theo các quyết định do AI đưa ra trong ít nhất một số trường hợp. Lý do phổ biến nhất khiến nhân viên quyết định bỏ qua các quyết định từ AI, bất kể kết quả AI đưa ra có được đánh giá là đúng hay không, là khi AI không thể đưa ra cơ sở cho quyết định của mình.

Mức độ tin tưởng giảm từ 76% đối với AI tạo sinh xuống còn 66% đối với AI tác nhân (agentic AI), cho thấy những lo ngại ngày càng gia tăng khi các hệ thống AI được trao quyền tự chủ cao hơn.

Theo báo cáo, khoảng cách về ROI đang ngày càng được mở rộng giữa các doanh nghiệp ưu tiên triển khai AI đáng tin cậy và những doanh nghiệp chưa chú trọng yếu tố này. Kết quả nghiên cứu chỉ ra rằng những doanh nghiệp khai thác được nhiều giá trị nhất từ AI không nhất thiết sử dụng nhiều công nghệ khác biệt, mà khác biệt chủ yếu nằm ở cách họ quản trị và triển khai AI.

Phần lớn doanh nghiệp hiện vẫn triển khai AI trên nền tảng dữ liệu còn thiếu hoàn thiện hoặc đã lỗi thời. Khi thiếu một nền tảng dữ liệu vững chắc để bảo đảm tính minh bạch và khả năng giải thích, các doanh nghiệp sẽ gặp khó khăn trong việc quản trị AI hiệu quả cũng như khai thác giá trị mà công nghệ này mang lại.

Chỉ 17,5% doanh nghiệp sở hữu hạ tầng dữ liệu được tối ưu toàn diện và đủ điều kiện để triển khai tác nhân AI, tạo ra tác động tiêu cực đến hiệu suất.

Các doanh nghiệp có nền tảng dữ liệu được tối ưu có khả năng ghi nhận mức ROI từ các dự án AI cao gấp 4 lần, đồng thời có thể áp dụng các yêu cầu bắt buộc về kiểm soát chất lượng dữ liệu và khả năng giải thích cao gấp 6 lần – những yếu tố cần thiết để củng cố niềm tin vào AI.

AI đáng tin cậy là hệ thống trí tuệ nhân tạo được thiết kế để bảo đảm độ tin cậy, tính công bằng, an toàn, tuân thủ các yêu cầu pháp lý và có khả năng đưa ra cơ sở cho quyết định. Người dùng và người ra quyết định ở mọi cấp trong doanh nghiệp cần có khả năng xác định rõ trách nhiệm trong các trường hợp AI đưa ra kết quả sai hoặc thiếu. Đồng thời, mọi hệ thống AI cần được quản trị chặt chẽ và chứng minh khả năng tuân thủ các quy định, nguyên tắc đã được xác lập.