Truyện audio, một hình thức “đọc” sách tiện lợi, đang trở thành mảnh đất màu mỡ cho các kênh YouTube lợi dụng công nghệ AI để sản xuất nội dung giật gân, bạo lực nhằm câu view, gây ra những hệ lụy đáng lo ngại.

Truyện audio không phải là một khái niệm mới trên YouTube, thu hút đông đảo người dùng bận rộn muốn tiếp cận nội dung mà không cần dành thời gian đọc.

Với sự hỗ trợ của giọng đọc người thật hoặc AI, các tác phẩm văn học, ngôn tình, trinh thám, kinh dị… được chuyển thể thành các video có độ dài đa dạng.

Tuy nhiên, sự phát triển vượt bậc của công nghệ AI đã bị nhiều kênh YouTube lạm dụng. Họ tạo ra hàng loạt video truyện nói với nội dung giật gân, bạo lực, đánh vào tâm lý tò mò của người xem để thu hút tương tác và lượt xem.

Truyện audio phản cảm, rùng rợn hút triệu view

Việc sản xuất nội dung và hình ảnh trở nên dễ dàng hơn bao giờ hết nhờ vô số phần mềm và trang web AI. Chỉ với những câu lệnh đơn giản, người dùng có thể tạo ra nội dung và hình ảnh theo yêu cầu.

Lợi dụng điều này, nhiều kênh YouTube đã đăng tải các truyện audio mà cả nội dung, hình ảnh và giọng đọc đều là sản phẩm của AI.

Tìm kiếm cụm từ “truyện audio phú bà”, cho thấy hàng loạt video có nội dung và hình ảnh tương tự, tất cả đều do AI tạo ra.

Dù thời lượng khác nhau, các video này đều có điểm chung là những tình tiết giật gân, bạo lực được sáng tạo và đọc bởi AI.

Với nội dung gây tò mò và giọng đọc mang tính trinh thám, những video này nhanh chóng thu hút hàng nghìn, thậm chí hàng triệu lượt xem và tương tác.

Mỗi ngày, các kênh này đăng tải 2-3 video, thu hút lượng lớn người xem và người đăng ký.

Nội dung ảo, ảnh hưởng thật

Điều đáng nói là nhiều câu chuyện nhảm nhí, dù được chính các kênh thừa nhận là “chuyện không có thật”, “mọi tình tiết đều là hư cấu”, vẫn thu hút người xem.

Thậm chí, không ít người, đặc biệt là người lớn tuổi hoặc ít hiểu biết về công nghệ, tin rằng những câu chuyện này là có thật.

Các nội dung, đặc biệt là hình ảnh do AI tạo ra ngày càng chân thật, khó phân biệt thật giả. Lợi dụng các xu hướng và thông tin nóng, nhiều kênh YouTube còn tạo ra video “ăn theo” sự kiện để thu hút lượt xem.

Mặc dù AI mang lại nhiều lợi ích, nhưng việc tràn lan các video ảo có nội dung bạo lực, phản cảm đang để lại những hậu quả nghiêm trọng.

Những video truyện audio này vẫn thu hút hàng nghìn lượt xem, và nội dung càng sốc, càng bạo lực thì lượng tương tác càng lớn.

Dù nhiều kênh khẳng định đây là sản phẩm hư cấu và “miễn trừ trách nhiệm”, điều đó không có nghĩa là những nội dung này không ảnh hưởng đến nhận thức, thậm chí hành vi của người xem. Tuyên bố miễn trừ trách nhiệm chỉ là cách để các kênh “phủi sạch” liên quan đến những nội dung rác mà họ tạo ra.

Vấn đề đặt ra là điều gì sẽ xảy ra nếu người xem không phân biệt được tin giả – tin thật, hay trẻ em sẽ bị tác động như thế nào khi vô tình xem phải các nội dung có nhiều yếu tố bạo lực?

Tiến sĩ Nguyễn Văn Sơn, giảng viên Khoa Công nghệ Thông tin, Trường Đại học Công nghệ (Đại học Quốc gia Hà Nội), nhấn mạnh: “AI có thể đem lại nhiều đóng góp thiết thực cho cộng đồng và xã hội, nhưng khi bị lợi dụng, sử dụng sai mục đích thì có thể đem lại nhiều hệ luỵ nghiêm trọng”.

TS Sơn kêu gọi người dùng, đặc biệt là giới trẻ, cần nâng cao ý thức và trách nhiệm khi tiếp cận và ứng dụng AI, hướng đến việc tạo ra các sản phẩm chất lượng, văn minh thay vì lan truyền các sản phẩm rác, phản cảm đang tràn lan trên không gian mạng.

Thói quen nghe truyện audio không xấu, nhưng việc vô tình tiếp tay cho các đối tượng lợi dụng thói quen này và sự tiến bộ của công nghệ để tạo ra các sản phẩm bạo lực, phản cảm đang làm ô nhiễm môi trường mạng.

Người dùng cần kiểm chứng thông tin, tự trang bị “bộ lọc” thật giả để không bị những thông tin sai lệch dẫn dắt, gây hoang mang dư luận.