AI agent trong doanh nghiệp: Khi phép màu công nghệ đi kèm rủi ro khôn lường

Chi phí vận hành "bùng nổ" ngoài tầm kiểm soát

Theo tờ báo La Tribune (Pháp), một trong những cú sốc lớn nhất đối với doanh nghiệp khi sử dụng tác nhân AI là bài toán tài chính. Do cơ chế hoạt động theo chuỗi, một nhiệm vụ đơn giản có thể kích hoạt hàng chục hoặc hàng trăm truy vấn, khiến số lượng "token" tính phí tăng nhanh theo cấp số nhân. Việc kiểm soát token đầu ra (nội dung hoặc hành động do AI tạo ra) khó khăn và đắt đỏ hơn rất nhiều so với token đầu vào.

Một minh chứng rõ ràng là trường hợp của blogger công nghệ Federico Viticci, người đã phải trả tới 3.600 USD chỉ trong một tháng để AI tự động quản lý email và lịch làm việc.

Bên cạnh chi phí AI, các tác nhân này còn liên tục truy cập cơ sở dữ liệu và kích hoạt các phần mềm nội bộ, tạo áp lực khổng lồ lên hạ tầng công nghệ, khiến hóa đơn điện toán đám mây của một số doanh nghiệp tăng gấp đôi. Nếu không quản lý đúng cách, việc sử dụng chúng có thể làm tăng vọt chi phí API và điện toán đám mây một cách bất ngờ.

Các rủi ro từ tác nhân AI cho doanh nghiệp

Tính tự chủ của tác nhân AI là con dao hai lưỡi. Chính những đặc điểm làm cho các tác nhân AI trở nên mạnh mẽ cũng đồng thời mang đến những rủi ro mới nếu không được kiểm soát đúng cách. Một tác nhân không được giám sát có thể tương tác với các hệ thống quan trọng theo những cách không mong muốn, hoặc tạo ra các lỗi lan truyền khắp các quy trình liên kết. Không giống như con người, các tác nhân không mệt mỏi hay mất tập trung; một AI được quản lý kém có thể liên tục thực hiện một chỉ thị sai sót và gây ra thiệt hại trên diện rộng trước khi bất kỳ ai nhận ra điều đó.

Sự linh hoạt của AI dẫn đến tình trạng "AI bóng tối" gia tăng mạnh mẽ. Theo một khảo sát được Ardoq - một nền tảng quản lý Kiến trúc Doanh nghiệp dựa trên đám mây, giúp các tổ chức số hóa, trực quan hóa và hiểu rõ các mối liên hệ giữa quy trình, ứng dụng và cơ sở hạ tầng công nghệ thông tin - thực hiện, hơn 60% người lao động thừa nhận sử dụng các công cụ AI không được phép, và 33% nhân viên đã sao chép dữ liệu nhạy cảm của công ty hoặc khách hàng vào các nền tảng AI bên ngoài.

Do tác nhân AI cần quyền truy cập vào dữ liệu nhạy cảm để hoạt động hiệu quả, việc cấp quyền không cẩn thận có thể dẫn đến rò rỉ dữ liệu, lạm dụng và vi phạm quyền riêng tư nghiêm trọng. Hơn 80% các nhà lãnh đạo công nghệ cho biết việc nhân viên sử dụng AI đang vượt xa khả năng kiểm duyệt an toàn của các công cụ này từ phía công nghệ thông tin. Chỉ cần một "ảo giác" (hallucination) hoặc hành động sai sót duy nhất của một AI được kết nối với hệ thống quan trọng cũng đủ để gây ra hậu quả lớn về mặt an ninh mạng.

Việc ứng dụng tác nhân AI còn tiềm ẩn những rủi ro vi phạm các tiêu chuẩn pháp lý và đạo đức, chẳng hạn như Đạo luật AI của EU. Một tác nhân AI bất hảo có thể đưa ra các quyết định phân biệt đối xử hoặc vận hành quy trình tự động mà không có nhật ký kiểm toán, đẩy công ty vào rắc rối pháp lý. Hơn nữa, doanh nghiệp cũng đối mặt với rủi ro "bị ràng buộc mô hình" khi quá phụ thuộc vào các nền tảng của bên thứ ba (như Microsoft, AWS), khiến họ dễ bị tổn thương nếu nhà cung cấp thay đổi giá cả, gặp sự cố hoặc thay đổi điều khoản.

Giải pháp quản trị tác nhân AI

Đứng trước những mặt trái này, việc quản trị AI đã không còn là dự án của riêng bộ phận công nghệ thông tin mà trở thành ưu tiên bắt buộc ở cấp độ hội đồng quản trị. Các doanh nghiệp đang dần từ bỏ tư duy triển khai đại trà, thay vào đó là chia nhỏ thành các tác nhân phụ trách từng nhiệm vụ cụ thể.

Theo Ardoq, các tổ chức cần áp dụng ba trụ cột quản trị chính, gồm lập danh mục toàn diện về AI, duy trì ngữ cảnh mạnh mẽ và đảm bảo khả năng giải thích.

Lập danh mục toàn diện để đảm bảo không có AI nào hoạt động trong bóng tối bằng cách theo dõi mọi công cụ AI đang được sử dụng.

Thiết lập ngữ cảnh và ràng buộc, giới hạn phạm vi hoạt động, chỉ cấp quyền truy cập vào dữ liệu thực sự cần thiết.

Đảm bảo khả năng giải thích. Mọi quyết định AI đưa ra phải có thể truy xuất nguồn gốc để con người kiểm tra, đảm bảo tính minh bạch và tuân thủ quy định.

Tác nhân AI hiện nay giống như những nhân viên tự động đầy tiềm năng nhưng còn thiếu kinh nghiệm. Chúng hoàn toàn không phải là một "phép màu công nghệ" có thể tùy tiện áp dụng. Thành công của doanh nghiệp không nằm ở tốc độ triển khai AI, mà ở khả năng vận hành chúng một cách an toàn, ổn định và có kiểm soát trong một hệ sinh thái ngày càng phức tạp.