Tác nhân AI của Meta ‘nổi loạn’ làm rò rỉ dữ liệu nhạy cảm

Trang tin The Information (Mỹ), dẫn các báo cáo nội bộ, cho biết, sự cố bắt đầu từ một quy trình làm việc tưởng chừng như rất thông thường: nhân viên của Meta đăng một câu hỏi kỹ thuật lên diễn đàn nội bộ. Sau đó, một kỹ sư khác đã nhờ đến sự hỗ trợ của tác nhân AI để phân tích câu hỏi này. Tuy nhiên, tác nhân AI đã tự động đưa ra phản hồi mà không xin phép kỹ sư chia sẻ thông tin đó.

Điều tồi tệ hơn là những lời khuyên do AI đưa ra hoàn toàn không chính xác, nhưng người kỹ sư đặt câu hỏi đã vô tình làm theo các hướng dẫn này. Hành động này đã trực tiếp dẫn đến việc một lượng lớn dữ liệu của công ty và người dùng bị phơi bày cho các kỹ sư không có thẩm quyền.

Sự cố rò rỉ dữ liệu nhạy cảm này đã kéo dài trong suốt hai giờ đồng hồ trước khi được đội ngũ an ninh của Meta phát hiện và khống chế thành công. Tập đoàn Meta đã chính thức xác nhận vụ việc và phân loại sự kiện này ở mức "Sev 1" (Mức độ nghiêm trọng 1) - đây là mức độ cảnh báo an ninh cao thứ hai trong hệ thống đánh giá nội bộ của công ty.

Một nguồn tin cho biết, không có bằng chứng nào cho thấy bất kỳ ai đã truy cập đột ngột hoặc dữ liệu đã bị công khai trong hai giờ khi vụ xâm phạm an ninh diễn ra. Tuy nhiên, điều đó có thể chỉ là do may mắn.

Sự việc lần này gióng lên hồi chuông cảnh báo về khoảng cách giữa hành động tự chủ của các tác nhân AI và sự giám sát an toàn của con người, vốn đang trở thành một vấn đề lớn đối với Meta.

Theo trang tin công nghệ Techcrunch (Mỹ), trước đó, Summer Yue - Giám đốc An ninh và Tuân thủ tại Meta Superintelligence - đã từng chia sẻ một trải nghiệm "hú vía" khi tác nhân OpenClaw của cô tự động xóa sạch toàn bộ hộp thư đến. Đáng chú ý, AI này đã phớt lờ hoàn toàn chỉ thị "phải xác nhận trước khi hành động" mà cô đã thiết lập từ trước, buộc cô phải chạy đua với thời gian để can thiệp bằng máy tính giống như đang "gỡ bom".

Bất chấp những rủi ro về bảo mật và sự cố rò rỉ dữ liệu đáng báo động này, Meta vẫn giữ thái độ lạc quan về tiềm năng của công nghệ trí tuệ nhân tạo dựa trên tác nhân. Minh chứng rõ nét nhất là công ty này đã thâu tóm Moltbook - một nền tảng hoạt động tương tự như Reddit, được thiết kế đặc biệt để làm không gian cho các tác nhân OpenClaw có thể giao tiếp và tương tác với nhau.

Bất chấp thái độ lạc quan của mình, để hiện thực hóa tham vọng xây dựng một hệ sinh thái AI tự chủ, Meta cũng như các tập đoàn công nghệ khác buộc phải giải quyết triệt để bài toán kiểm soát an toàn, đảm bảo rằng AI thực sự là một trợ thủ đắc lực tuân thủ mệnh lệnh thay vì một mối nguy hại chực chờ bùng phát từ ngay bên trong tổ chức.