Facebook công bố tính năng an toàn mới trên ứng dụng Messenger

Đó là những cảnh báo tới người dùng khi có các tin nhắn đến từ những đối tượng có thể là kẻ lừa đảo tài chính, lạm dụng trẻ em tiềm năng, đưa ra các thủ thuật để ngăn chặn hoặc bỏ qua cuộc hội thoại. Công nghệ phân tích học máy tính về các cuộc hội thoại của hàng tỷ người dùng Messenger được Facebook sử dụng để xác định các hành vi và đối tượng mờ ám.

Quan trọng nhất, Facebook cho biết việc xác định này sẽ chỉ được thực hiện dựa trên siêu dữ liệu, không phân tích nội dung các tin nhắn, vì vậy, nó không làm suy yếu mã hóa đầu cuối trong tính năng Trò chuyện bí mật (Secret Conversation).

Facebook cũng cho biết sẽ sớm mặc định triển khai mã hóa đầu cuối cho mọi cuộc trò chuyện trên Messenger (đã được thực hiện trên WhatsApp, cũng là một ứng dụng trò chuyện do Facebook sở hữu).

"Các thông báo an toàn trong Messenger sẽ bật lên trong một cuộc trò chuyện và đưa ra các gợi ý giúp người dùng phát hiện ra các hoạt động đáng ngờ và hành động hợp lý để ngăn chặn hoặc bỏ qua ai đó khi thấy điều gì đó bất ổn”, đại diện Facebook cho biết. “Khi chuyển sang mã hóa đầu cuối, chúng tôi đã triển khai các công cụ bảo vệ quyền riêng tư để giữ an toàn cho mọi người mà không cần truy cập nội dung các cuộc trò chuyện".

Facebook công bố tính năng an toàn mới trên ứng dụng Messenger (Ảnh Internet)

Ví dụ như một người lớn gửi tin nhắn kết bạn tới số lượng lớn trẻ vị thành niên, trong trường hợp này, các cơ chế phát hiện hành vi có thể xác định đây là một kẻ lạm dụng tiềm năng. Bên cạnh đó, AI sẽ cân nhắc thêm việc thiếu kết nối trong các mối quan hệ xã hội của hai người.

Một ví dụ khác, khi người dùng nhận được cảnh báo và câu hỏi có biết kẻ lừa đảo tiềm năng không. Nếu họ nói không, cảnh báo sẽ tiếp tục đưa ra đề nghị chặn người gửi kèm lời khuyên không gửi tiền cho người lạ.

Một ví dụ khác nữa, nếu tính năng này phát hiện ai đó đang sử dụng tên, ảnh đại diện để nhận mình là bạn bè của người dùng, sẽ có cảnh báo hiển thị cả hồ sơ (profile) của kẻ mạo danh và người bạn thực sự, kèm theo đề nghị chặn kẻ lừa đảo.

Hiện tại, tính năng thông báo an toàn sẽ chỉ đề xuất rõ ràng việc chặn đối tượng hoặc bỏ qua hành vi lạm dụng/lừa đảo tiềm năng. Người dùng vẫn có thể báo cáo các hành vi này theo cách thông thường – điều Facebook hướng tới chính là nhắc nhở và mong muốn người dùng báo cáo, ngăn chặn để tránh tác hại trước mắt.

Theo Alex Stamos, cựu giám đốc an ninh của Facebook, việc bổ sung các cảnh báo lạm dụng chỉ dựa trên siêu dữ liệu là một "khởi đầu tốt". Nhưng ông và các chuyên gia công nghệ khác cũng hy vọng Facebook và các đại gia công nghệ khác như Google, Microsoft, Snap, Twitter sẽ có động thái theo dõi các dấu hiệu hành vi xấu trên thiết bị người dùng.

Khi được hỏi về khả năng phân tích nội dung các cuộc trò chuyện của khách hàng, người phát ngôn Facebook khẳng định biện pháp này "không được xem xét và không cần thiết cho tính năng này".