Nền tảng video ngắn TikTok ngày càng xuất hiện nhiều video giả mạo người nổi tiếng hoặc nhân vật của công chúng và thu hút lượng lớn người theo dõi.
Dựa theo trang web tiếp theo, TikTok hiện chứa một lượng lớn nội dung deepfake hơn bất kỳ nền tảng nào khác. Đáng chú ý nhất là @deeptomcruise với hàng chục video deepfake mạo khuôn mặt Tom Cruise và có hơn 3,6 triệu người theo dõi và gần 14 triệu lượt thích. Trong đó, video hấp dẫn nhất đạt hơn 43 triệu lượt xem.
Các video deepfake của Tom Cruise (trái), Keanu Reeves (giữa) và Robert Pattinson (phải) trên TikTok.
Bên cạnh đó, những tài khoản giả mạo của các diễn viên nổi tiếng như Robert Pattinson, Keanu Reeves, nhân vật của công chúng như Mark Zuckerberg, Elon Musk, thậm chí cả các chính trị gia như Barack Obama, Donald Trump cũng nhận được hàng trăm nghìn. xem. Nhiều người chia sẻ trong phần bình luận rằng họ không thể phân biệt được thật giả.
Deepfake là sự kết hợp giữa học sâu (deep learning) và giả mạo (fake). Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra hình ảnh hoặc video sống động như thật.
Không chỉ TikTok, các video deepfake đã được phát tán rộng rãi trên các nền tảng khác. Năm 2019, Facebook bị chỉ trích vì cho phép xuất hiện video giả mạo chính trị gia Mỹ Nancy Pelosi. Vào năm 2020, Twitter đã cấm các video lừa đảo, gây hiểu lầm hoặc có hại cho mọi người thì TikTok cũng làm như vậy. Cùng năm, YouTube đã chặn các video deepfake liên quan đến cuộc bầu cử Tổng thống Hoa Kỳ.
Deepfakes thường được tạo ra để thể hiện sự sáng tạo, để giải trí, để “hồi sinh” các diễn viên đã khuất hoặc phổ biến nhất là để đưa khuôn mặt của ai đó vào phim khiêu dâm. Theo dữ liệu từ công ty phần mềm chuyên phát hiện deepfake Deeptrace, hơn 90% các deepfake được quét có liên quan đến nội dung khiêu dâm. Các ứng dụng miễn phí như DeepNude 2.0 (hiện không còn tồn tại) từng bị lạm dụng để tạo video khỏa thân của bất kỳ người nào nhằm mục đích tống tiền.
Tuy nhiên, các chuyên gia bày tỏ lo ngại khi deepfakes lan rộng trên TikTok vì người dùng trẻ tuổi chiếm số lượng lớn trên nền tảng này. Trong khi đó, deepfake ngày càng được triển khai trong các chiến dịch gây thông tin sai lệch, giả mạo danh tính, gây mất uy tín… Với công nghệ ngày càng hoàn thiện, không phải ai, đặc biệt là trẻ nhỏ, cũng có thể phân biệt được hình ảnh thật trên mạng xã hội.
Ngoài ra, deepfakes cũng được sử dụng để lừa đảo và gian lận danh tính. Kẻ lừa đảo có thể gửi tin nhắn video giả làm đồng nghiệp hoặc người thân để yêu cầu chuyển tiền hoặc giao dịch ngân hàng. Theo công ty nghiên cứu và phân tích dữ liệu PYMNTS, gian lận danh tính đã gây ra thiệt hại hơn 20 tỷ USD ở Mỹ vào năm 2020.
Làm cách nào để phát hiện deepfake?
Theo các chuyên gia, dù ngày càng tinh vi nhưng deepfakes vẫn có thể bị phát hiện bằng mắt thường nếu để ý kỹ các chi tiết. Ví dụ: video giả mạo sẽ có khuôn mặt quá mịn, gò má bất thường, chuyển động của mí mắt và miệng có vẻ gượng gạo và không tự nhiên. Chi tiết tóc dễ phát hiện nhất vì các công nghệ deepfake hiện tại gặp khó khăn trong việc tạo khuôn mặt kết hợp với tóc giống như thật.
Bên cạnh đó, bối cảnh cũng rất quan trọng. Người xem có thể đặt câu hỏi liệu nhân vật thật có thói quen thực hiện các hành động như trong video hay không. Nếu không, nó rất có thể là một deepfake.
Với những người nổi tiếng, người dùng có thể tìm kiếm về nhân vật trong video trên Google để kiểm tra thông tin mới nhất. Ngoài ra, có thể đánh giá độ tin cậy của nguồn đăng video trước khi kết luận độ chính xác của nó.
Bảo Lâm (dựa theo trang web tiếp theo)