Công cụ ghi chép tự động Whisper của OpenAI và mặt trái tiềm ẩn

Biểu tượng của OpenAI và ChatGPT. Ảnh tư liệu: AFP/TTXVN

Tuy vậy, giữa những lời khen ngợi, Whisper cũng đối diện với các chỉ trích gay gắt do một hạn chế lớn: khả năng tự tạo ra thông tin, tức là có thể sản sinh ra những đoạn văn bản hoặc phát ngôn mà chưa từng có ai thực sự đưa ra.

Theo các nhà phát triển phần mềm và chuyên gia nghiên cứu, các chi tiết không có thực này không chỉ gây nhầm lẫn mà còn có thể chứa nội dung phân biệt chủng tộc, ngôn ngữ bạo lực và những lời khuyên y tế không chính xác. Mặc dù OpenAI đã khuyến cáo không nên dùng Whisper trong các "lĩnh vực có nguy cơ cao", nhưng nhiều tổ chức y tế vẫn sử dụng nó để ghi lại các buổi tư vấn giữa bác sĩ và bệnh nhân.

Nghiên cứu mới đây chỉ ra rằng có đến 80% bản ghi âm trong một khảo sát các cuộc họp công khai đều có chứa những chi tiết hư cấu. Một kỹ sư học máy cũng chỉ ra rằng kết quả phân tích từ hơn 100 giờ ghi chép của Whisper cho thấy khoảng 50% trong số đó chứa sai sót nghiêm trọng, gây ra các mối lo ngại về độ tin cậy của công nghệ này.

Chuyên gia nhận định các lỗi này có thể dẫn tới “hệ lụy thực sự nghiêm trọng”, nhất là trong y tế. Bà Alondra Nelson - nguyên Giám đốc Văn phòng Chính sách Khoa học và Công nghệ Nhà Trắng - nhấn mạnh rằng không ai muốn gặp phải một chẩn đoán sai, đồng thời cho rằng cần đặt ra các tiêu chuẩn cao hơn khi ứng dụng công nghệ này.

Việc Whisper được sử dụng để tạo phụ đề cho người khiếm thính cũng gặp nhiều trở ngại, bởi họ khó có thể phát hiện được những sai lệch tiềm ẩn trong hàng triệu từ ngữ được tạo ra.

Sự gia tăng của các đoạn văn bản hư cấu đã khiến nhiều chuyên gia, nhà hoạt động và cựu nhân viên của OpenAI kêu gọi chính phủ liên bang nghiên cứu quy định chặt chẽ hơn đối với AI. Kỹ sư nghiên cứu William Saunders tại San Francisco tin tưởng rằng vấn đề này có thể khắc phục nếu OpenAI chú trọng hơn vào việc xử lý các lỗi hư cấu.

OpenAI thừa nhận rằng họ vẫn đang nỗ lực cải thiện để giảm thiểu những sai sót và đánh giá cao những ý kiến phản hồi từ cộng đồng nghiên cứu. Dẫu vậy, nhiều kỹ sư cho rằng chưa từng có công cụ AI nào với mức độ hư cấu cao như Whisper.