[Mới] Deepfake lan tràn trên TikTok

Nền tảng video ngắn TikTok ngày càng xuất hiện nhiều video giả mạo người nổi tiếng hoặc nhân vật của công chúng và thu hút lượng lớn người theo dõi.

Theo dõi Web tiếp theo, TikTok hiện chứa một lượng lớn nội dung deepfake hơn bất kỳ nền tảng nào khác. Đáng chú ý nhất là @deeptomcruise với hàng chục video deepfake mạo danh Tom Cruise và có hơn 3,6 triệu người theo dõi và gần 14 triệu lượt thích. Trong đó, video hấp dẫn nhất đạt hơn 43 triệu lượt xem.

Video Deepfake của Tom Cruise (trái), Keanu Reeves (giữa) và Robert Pattinson (phải) trên TikTok.

Video Deepfake của Tom Cruise (trái), Keanu Reeves (giữa) và Robert Pattinson (phải) trên TikTok.

Ngoài ra, các tài khoản giả mạo của các diễn viên nổi tiếng như Robert Pattinson, Keanu Reeves, nhân vật của công chúng như Mark Zuckerberg, Elon Musk, thậm chí cả các chính trị gia như Barack Obama, Donald Trump cũng nhận được hàng trăm nghìn. lượt xem. Nhiều người chia sẻ vào bình luận rằng họ không thể phân biệt được thật – giả.

Deepfake là sự kết hợp giữa học sâu (deep learning) và giả tạo (fake). Công nghệ này sử dụng AI để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để tạo ra hình ảnh hoặc video sống động như thật.

Không chỉ TikTok, các video deepfake đã được phát tán rộng rãi trên các nền tảng khác. Năm 2019, Facebook bị chỉ trích vì cho phép xuất hiện một video giả mạo về chính trị gia người Mỹ Nancy Pelosi. Vào năm 2020, Twitter đã cấm các video lừa đảo, gây hiểu lầm hoặc có hại cho mọi người, sau đó TikTok cũng làm như vậy. Cùng năm, YouTube đã chặn các video deepfake liên quan đến cuộc bầu cử Tổng thống Mỹ.

Deepfakes thường được tạo ra để thể hiện sự sáng tạo, để giải trí, để “hồi sinh” các diễn viên đã qua đời, hoặc phổ biến nhất là để đưa khuôn mặt của ai đó vào phim khiêu dâm. Theo dữ liệu của công ty phần mềm chuyên phát hiện ảnh sâu Deeptrace, hơn 90% ảnh sâu được quét có liên quan đến nội dung khiêu dâm. Các ứng dụng miễn phí như DeepNude 2.0 (hiện không còn tồn tại) đã bị lạm dụng để tạo video khỏa thân của bất kỳ người nào với mục đích tống tiền.

Tuy nhiên, các chuyên gia bày tỏ lo ngại khi deepfakes lan truyền trên TikTok do người dùng trẻ tuổi chiếm số lượng lớn trên nền tảng này. Trong khi đó, deepfake ngày càng được triển khai nhiều hơn trong các chiến dịch gây thông tin sai lệch, lừa đảo danh tính, làm mất uy tín … Với việc công nghệ ngày càng hoàn thiện, không phải ai, đặc biệt là trẻ nhỏ, cũng có thể phân biệt được hình ảnh thật trên mạng xã hội.

Ngoài ra, deepfakes cũng được sử dụng để lừa đảo và gian lận danh tính. Những kẻ lừa đảo có thể gửi tin nhắn video giả danh đồng nghiệp hoặc người thân để yêu cầu chuyển tiền hoặc giao dịch ngân hàng. Theo phân tích dữ liệu và công ty nghiên cứu PYMNTS, gian lận danh tính đã gây ra thiệt hại hơn 20 tỷ USD ở Mỹ vào năm 2020.

Làm thế nào để phát hiện deepfake?

Theo các chuyên gia, dù ngày càng tinh vi nhưng deepfakes vẫn có thể bị phát hiện bằng mắt thường nếu để ý kỹ các chi tiết. Ví dụ: video giả sẽ có khuôn mặt quá nhẵn, xương gò má không bình thường, chuyển động của mí mắt và miệng có vẻ gượng gạo và thiếu tự nhiên. Dễ dàng phát hiện chi tiết tóc nhất, vì công nghệ deepfake hiện nay đang gặp khó khăn trong việc tạo ra những khuôn mặt kết hợp với tóc để trông giống như thật.

Bên cạnh đó, bối cảnh cũng rất quan trọng. Người xem có thể đặt câu hỏi liệu nhân vật thật có thói quen thực hiện các hành động như trong video hay không. Nếu không, nó rất có thể là một deepfake.

Với người nổi tiếng, người dùng có thể tìm kiếm về nhân vật trong video trên Google để kiểm tra thông tin mới nhất. Ngoài ra, có thể đánh giá độ tin cậy của nguồn đã đăng video trước khi kết luận về độ chính xác của nó.

Bảo Lâm (theo dõi Web tiếp theo)

Viết một bình luận