Tràn lan nội dung độc hại do AI sáng tạo trên TikTok

Theo báo cáo của tổ chức phi lợi nhuận Media Matters, người dùng TikTok đang có xu hướng kiếm tiền từ các video đưa ra những thông tin vô căn cứ về những “thuyết âm mưu” liên quan đến ngày tận thế của thế giới.

Đây là minh họa mới nhất về việc thông tin sai lệch đang được lan truyền với tốc độ chóng mặt trên nền tảng này – một vấn đề khó liên tục được nêu ratrong các cuộc tranh luận chính sách gần đây, đặc biệt là khi các nhà lập pháp Mỹ cân nhắc việc cấm ứng dụng này vì lý do an ninh quốc gia.

Những video độc hại với nhạc nền ma quái, kèm theo những hình ảnh, thậm chí là sử dụng giọng nói của những người nổi tiếng do trí tuệ nhân tạo (AI) tạo ra, thường thu hút hàng triệu lượt xem trên TikTok. Đặc biệt, các video về thuyết âm mưu thường được đăng bởi các tài khoản ẩn danh.

Nhà nghiên cứu TikTok Abbie Richards cho biết, những video như vậy có thể mang lại lợi ích về mặt tài chính với người sáng tạo nội dung trên TikTok, qua một chương trình sáng tạo trên nền tảng này. “Ngành công nghiệp nhỏ này” được hỗ trợ bởi các công cụ AI được cung cấp rộng rãi và miễn phí.

Về phần mình, một phát ngôn viên của TikTok nhấn mạnh rằng “các thuyết âm mưu không đủ điều kiện để kiếm tiền hoặc được đề xuất” trong nguồn cấp dữ liệu cho người dùng. Người này khẳng định thông tin sai lệch độc hại sẽ bị cấm và đội ngũ an toàn sẽ chủ động loại bỏ 95% thông tin đó trước khi nhận được báo cáo từ người dùng.

Những lo ngại về thông tin xấu độc do AI tạo ra đặc biệt cao trong năm nay, dự kiến sẽ diễn ra nhiều cuộc bầu cử lớn trên khắp thế giới. Tuần trước, Liên minh châu Âu (EU) đã sử dụng Đạo luật Dịch vụ Kỹ thuật số (DSA) nhằm gây áp lực đối với một số nền tảng, trong đó có TikTok, về xử lý những rủi ro của AI có thể ảnh hưởng tiêu cực đến các cuộc bầu cử sắp tới trong khối 27 quốc gia.

Tại Mỹ, quốc gia có khoảng 170 triệu người dùng TikTok, các nhà lập pháp cũng đã ủng hộ áp đảo dự luật cấm TikTok từ tuần trước. Dự luật đã được Hạ viện thông qua hôm 13/3, yêu cầu công ty mẹ ByteDance phải có các biện pháp để từ bỏ quyền kiểm soát ứng dụng TikTok trong vòng 180 ngày, nếu không ứng dụng này sẽ bị cấm khỏi các cửa hàng ứng dụng Apple và Google ở Mỹ.

Đây được coi là mối đe dọa lớn nhất đối với ứng dụng chia sẻ video TikTok, vốn đã trở nên phổ biến rộng rãi trên toàn thế giới, do những cáo buộc về vi phạm quyền sở hữu và lạm dụng dữ liệu người dùng. TikTok đã nhiều lần bác bỏ các cáo buộc trên.