Douyin, phiên bản Tiktok của Trung Quốc, sử dụng công nghệ nhận dạng khuôn mặt để điều khiển người nước ngoài. Nhưng câu chuyện không dừng lại ở đó.
Những video hài hước về cha mẹ, những buổi hòa tấu piano say đắm lòng người hay những câu chuyện không có thật về trẻ em – nạn nhân của nạn buôn người – được tìm thấy trong tủ quần áo … là những nội dung. nội dung thông thường trên TikTok, ứng dụng chia sẻ video với hơn 500 triệu người dùng phương Tây.
Và có vẻ như cuộc sống cũng không khác mấy trên Douyin, phiên bản TikTok của Trung Quốc, nơi đã sinh ra những triệu phú mạng xã hội mới nhờ sự bùng nổ của ngành công nghiệp phát trực tiếp. Tuy nhiên, đằng sau hậu trường, các streamer Trung Quốc phải đối mặt với một chế độ giám sát và kiểm duyệt tự động cực kỳ phức tạp.
Ứng dụng Douyin kiểm duyệt người nước ngoài bằng công nghệ nhận dạng khuôn mặt. Hình ảnh: Điện báo.
Vào ngày 8 tháng 7, một người đàn ông Anh tên là Joshua Dummer đã gặp phải tình huống trớ trêu ở Douyin, khi người vợ Trung Quốc của anh ta muốn phát trực tiếp hình ảnh anh ta từ căn hộ của họ ở Bắc Kinh. Bằng cách nào đó – rất có thể là do công nghệ nhận dạng khuôn mặt – Douyin đã phát hiện ra sự hiện diện của Dummer và tự động dừng phát trực tiếp với thông báo: cấm người nước ngoài phát video trực tiếp nếu không có sự chấp thuận của chính phủ Trung Quốc. Quốc gia được phép.
Dummer chỉ đơn giản là ngồi trên ghế sofa và kể câu chuyện thường ngày của mình. Điều đó đã đủ để “tiếp thêm” hệ thống kiểm duyệt của Douyin. Vợ của Dummer cũng bị chặn phát trực tiếp.
Hệ thống kiểm duyệt và giám sát hoạt động theo các nguyên tắc khác nhau. Một hệ thống giám sát có thể sử dụng công nghệ nhận dạng khuôn mặt để quét các chương trình phát sóng trực tiếp và đoán tuổi của người dùng, báo cáo cho người kiểm duyệt nếu người dùng có dấu hiệu dưới 16 tuổi.
Trước khi bắt đầu livestream, người dùng cần phải vượt qua một bước kiểm duyệt khác để kiểm tra xem khuôn mặt của mình có trùng khớp với ảnh trên chứng minh thư do nhà nước cấp hay không. Theo mặc định, buổi phát trực tiếp không dành cho người nước ngoài hoặc cư dân Hồng Kông.
Nhiều bộ lọc khác cũng được sử dụng để đánh giá những người phát trực tiếp, vì người dùng Trung Quốc cần tuân thủ “trật tự công cộng và thuần phong mỹ tục” – một loại “xếp hạng an toàn”, tương tự như “điểm tin tức”. tin tưởng ”. Nếu điểm số giảm xuống dưới một mức nhất định, người đó sẽ bị hệ thống khóa tài khoản.
Trong khi đó, công nghệ nhận dạng giọng nói và văn bản được sử dụng để loại bỏ các vi phạm, chẳng hạn như “mê tín”, phỉ báng Đảng Cộng sản Trung Quốc, thậm chí cả video ASMR (phản ứng cực đoan). khoái cảm độc lập) cũng bị cấm vì “khiêu dâm”.
Tất cả các phương pháp kiểm duyệt trên đều được ghi lại trong một tài liệu bí mật của ByteDance, công ty mẹ của TikTok và Douyin, sau đó bị Izzy Niu, một phóng viên ở New York, phanh phui. Tài liệu này giải thích các ứng dụng đã điều chỉnh theo luật kiểm duyệt Internet nghiêm ngặt của Trung Quốc do sự phát triển nhanh chóng chưa từng có và sự hỗn loạn của ngành phát trực tiếp.
Sự cố trên Douyin và tài liệu kiểm duyệt này đã đặt ra nhiều câu hỏi khó cho TikTok trong bối cảnh đối mặt với nhiều cáo buộc thăm dò quyền riêng tư tại Mỹ và Anh. Tệ hơn nữa, TikTok gần đây cũng bị “cấm cửa” ở Ấn Độ. Liệu TikTok có áp dụng các công nghệ giống Douyin cho người dùng phương Tây không, và nếu có, thì dữ liệu người dùng đó được sử dụng như thế nào? Đến nay, TikTok đã từ chối trả lời những câu hỏi này.
Người nước ngoài bị cấm phát trực tuyến ở Trung Quốc
Giống như khoảng 850 triệu người dùng ứng dụng cây nhà lá vườn của Trung Quốc đại lục, Dummer không lạ gì hệ thống kiểm duyệt của Great Firewall.
Chính vì vậy, anh không khỏi bàng hoàng khi thấy vợ phải trải qua quá nhiều bước xác minh danh tính trước khi bắt đầu live stream, bao gồm cả việc gửi ảnh chứng minh thư và ảnh chụp. thực tế.
Dummer nói: “Tất cả các ứng dụng, trang web và phương tiện truyền thông của Trung Quốc đều phải tuân theo quy định của nhà nước về nội dung nào được cho là phù hợp. “Đây là lần đầu tiên tôi bị cấm phát sóng và bị yêu cầu làm thêm các bước đăng ký chỉ vì tôi là người nước ngoài”, anh nhấn mạnh.
Năm 2017, Bộ Văn hóa Trung Quốc chính thức cấm người nước ngoài phát video trực tiếp mà không được chính phủ “cho phép”. Tuy nhiên, phải đến gần đây, lệnh này mới được thực thi nghiêm túc. Nguyên nhân có thể là do phong trào livestream ở Trung Quốc phát triển nhanh chóng dưới tác động của Covid-19. Ngày càng có nhiều người nước ngoài báo cáo rằng video trực tiếp của họ bị dừng đột ngột.
Các báo cáo cũng chỉ ra rằng Douyin thậm chí đã ngừng phát trực tiếp video của người dùng sử dụng tiếng Quảng Đông, nhánh tiếng Trung thống trị ở Hồng Kông.
Hoàn thiện hệ thống giám sát
Vào ngày 9 tháng 7, người phát ngôn của ByteDance đã xác nhận việc kiểm duyệt luồng trực tiếp của Dummer. ByteDance cho biết: “Tất cả việc kiểm duyệt các luồng trực tiếp của Douyin đều do con người thực hiện trong thời gian thực. Do đó, chúng tôi có thể xác nhận rằng trong trường hợp của Dummer, việc kiểm duyệt được thực hiện bởi con người. người thừa hành ”.
Tuy nhiên, sách trắng của ByteDance đã gỡ rối chúng.
Theo tài liệu mà nhà báo Niu tìm thấy, “để ngăn ngừa rủi ro phát sinh từ tất cả các khía cạnh của phát trực tiếp, ByteDance đã thiết lập một quy trình giám sát hoàn chỉnh”, tài liệu viết. Ứng dụng sử dụng AI để phân tích mọi chi tiết của từng video trực tiếp, bao gồm cả hành vi của người xem. Các video đáng ngờ sẽ bị “gắn cờ” và gửi thông báo đến người kiểm duyệt, người có thể ngăn video bị phát tán hoặc thậm chí chặn người dùng.
Sơ đồ hệ thống kiểm duyệt nội dung phát trực tuyến của ByteDance. Nguồn: ByteDance.
Một số phương pháp trong sơ đồ kiểm duyệt này khá phổ biến ở phương Tây. Cả Facebook và YouTube đều sử dụng AI để kiểm soát các dịch vụ trên nền tảng, mở rộng mạng lưới kiểm duyệt của họ trong thời gian xảy ra đại dịch khi họ làm việc để xóa thông tin sai lệch về Covid-19 hoặc các phương pháp điều trị phản tác dụng. khoa học. Các nhà phê bình có thể cho rằng các quy tắc của hai gã khổng lồ cũng kỳ lạ như của ByteDance.
Ví dụ: Facebook thường xuyên theo dõi người dùng để tìm các dấu hiệu buôn bán ma túy, sự lan truyền của tin tức giả mạo, sự sùng bái của các nhóm thù địch hoặc người dùng đang có ý định tự tử. Kể từ khi vụ tấn công khủng bố tại nhà thờ Hồi giáo Christchurch vào năm 2019 được thủ phạm phát trực tiếp trên nền tảng này, Facebook đã phải cam kết với chính phủ các nước phương Tây về quy trình kiểm duyệt nội dung.
Các công ty này có nhiều quy tắc giống nhau. Cả Facebook và ByteDance đều nói không với nội dung khiêu dâm, ảnh khỏa thân, quấy rối, gian lận, vi phạm bản quyền và gian lận nhỏ.
Tuy nhiên, vẫn có những điểm khác biệt.
ByteDance cấm bất kỳ nội dung phát trực tiếp nào có nội dung “chống Cộng hoặc chống chính phủ Trung Quốc”. Sự mê tín chắc chắn là điều cấm kỵ, cũng như hút thuốc và uống rượu, tôn thờ tiền bạc, và xúc phạm phụ nữ.
Thật kỳ lạ, công ty luôn tìm ra lý do để cấm nhiều xu hướng phổ biến. ASMR – video độc thoại kích thích não bộ bằng cảm giác ảo – cũng nằm trong danh sách nội dung phù hợp, vì đôi khi chúng “thu hút người xem bằng những tín hiệu tình dục mạnh mẽ”, chẳng hạn như “liếm tai”. “.
Cơn sốt slime được nhiều trẻ em Anh yêu thích cũng bị cấm, vì thành phần slime có chứa mật mía, có nguy cơ gây hại cho con người. Thậm chí ByteDance còn trích dẫn một trường hợp ở Manchester vào năm 2017, khi một đứa trẻ người Anh cuồng YouTube bị bỏng hóa chất nghiêm trọng trong khi làm “chất nhờn kỳ lân”.
Và tất nhiên, cũng có những quy định cụ thể về việc phụ nữ có thể mặc gì trong các buổi livestream. Quy định về trang phục của Douyin đã nhận phải rất nhiều lời chỉ trích, nhưng quy định của ByteDance nghiêm ngặt hơn nhiều, thậm chí chúng còn có hình ảnh minh họa cụ thể.
Trong trường hợp của Dummer, không hiểu vì sao anh ta lại bị “gắn cờ”. Một phóng viên người Mỹ cư trú tại Trung Quốc sau khi thử nghiệm ứng dụng đã kết luận rằng rất ít khả năng Douyin tiến hành phân tích các đặc điểm trên khuôn mặt của các streamer dựa trên đặc điểm dân tộc.
Một giả thuyết cho rằng nền tảng này chỉ đơn giản là kiểm tra khuôn mặt của các streamer để so sánh với ảnh ID, không cho phép người nước ngoài phát trực tiếp theo mặc định. Một khả năng khác là AI nhận dạng giọng nói có thể phát hiện Dummer sử dụng tiếng Anh và phản ứng.
Dù bằng cách nào, ByteDance tuyên bố hệ thống của họ đang hoạt động. Từ năm 2018 đến 2019, số lượng trường hợp nội dung trực tiếp vi phạm quy định đã giảm 58%, trong đó 93% trường hợp vi phạm được phát hiện bởi hệ thống giám sát trước khi người dùng khác báo cáo. cho người điều hành. So với báo cáo minh bạch gần đây nhất của TikTok, nền tảng này bao gồm các video không trực tiếp với tỷ lệ 98,2%.
Những nghi ngờ xung quanh TikTok
Tất cả những điều này có ý nghĩa gì đối với TikTok? Ứng dụng này có phần tách biệt với Douyin khi chạy trên các mạng khác nhau. Tuy nhiên, cả hai đều được phát triển ở Trung Quốc và có chung các tính năng cốt lõi, với Douyin thường được coi là nơi thử nghiệm những ý tưởng mới trước khi được đưa vào TikTok.
ByteDance vẫn đang cố gắng tách biệt hai ứng dụng, cố gắng đưa Kevin Mayer, cựu CEO của Disney, làm giám đốc điều hành của TikTok và thành lập một văn phòng kỹ thuật mới dành riêng cho TikTok ở Mỹ.
Nhưng điều đó vẫn chưa đủ để ngăn các quan chức Mỹ đặt câu hỏi liệu chính phủ Trung Quốc có quyền truy cập vào tất cả dữ liệu cá nhân mà TikTok thu thập hay không. TikTok luôn phủ nhận việc cung cấp dữ liệu cho nhà nước Trung Quốc, hiện tại và trong tương lai.
Việc Douyin sử dụng công nghệ nhận dạng và nhận dạng khuôn mặt để kiểm soát người dùng cũng vượt xa hầu hết các ứng dụng phương Tây. Mặc dù các hệ thống phát hiện thanh thiếu niên của nền tảng vẫn đang trong giai đoạn “thử nghiệm” khi sách trắng được xuất bản, nhưng chúng có lẽ đã được triển khai rộng rãi cho đến nay.
TikTok đang bị điều tra bởi các cơ quan quản lý Hoa Kỳ vì cáo buộc vi phạm quyền riêng tư của trẻ em và bốn thanh thiếu niên ở Illinois đang kiện vì thu thập dữ liệu khuôn mặt mà không có sự đồng ý của họ. .
Kiểm duyệt cũng không tồn tại ở Trung Quốc. Các phóng viên điều tra đã khai quật được các tài liệu nội bộ cho thấy vào năm 2019, TikTok đã yêu cầu người kiểm duyệt chặn các video của người dùng có thân hình bất thường, có nhiều nếp nhăn hoặc rối loạn về mắt.
Theo báo cáo, mục đích là để đảm bảo rằng những người dùng có ngoại hình đẹp sẽ thu hút được nhiều người dùng mới đến và yêu thích nền tảng hơn là để người dùng mới rời khỏi ứng dụng khi gặp phải hình ảnh xấu. xấu xí hoặc kém chất lượng.
Một cuộc điều tra khác cho thấy TikTok có chính sách ngăn chặn một cách có hệ thống các video quay cảnh người khuyết tật, chẳng hạn như người mắc chứng tự kỷ, hội chứng Down hoặc biến dạng khuôn mặt, dưới chiêu bài biện minh cho hành động của họ. điều đó chỉ giúp nhóm người dùng này không bị trêu chọc. Một người được dán nhãn “người dùng đặc biệt” ở Đức gọi hành vi này là “phân biệt đối xử” và “vô nhân đạo”.
Không chỉ vậy, các hướng dẫn chính trị đã được ban hành để kiểm duyệt video của người dùng phương Tây.
Trước hàng loạt câu hỏi đó, TikTok trả lời rằng hầu hết các tài liệu mà phóng viên chỉ ra đã lỗi thời và không còn giá trị sử dụng. Công ty thậm chí không xác nhận một số tài liệu đó. Các quy tắc liên quan đến chính trị và khuyết tật được thừa nhận là thẳng thừng, nhưng chúng là một nỗ lực để ngăn chặn các xung đột cơ bản từ sớm, và sau đó đưa ra các giải pháp tinh tế. hơn.
Vậy có bao nhiêu hệ thống kiểm duyệt và giám sát của Douyin được đưa vào TikTok? TikTok có sử dụng công nghệ nhận dạng khuôn mặt không? Nếu vậy, chúng được sử dụng như thế nào? Nói cách khác, người dùng phương Tây nên lo lắng như thế nào về điều này?
Một phát ngôn viên của TikTok đã từ chối trả lời những câu hỏi cụ thể đó, chỉ tiết lộ rằng: “TikTok rất coi trọng sự an toàn của người dùng trẻ tuổi. Chúng tôi có những quy định nghiêm ngặt đối với người dùng dưới 16 tuổi tham gia luồng trực tiếp”.
“Ngoài phân khúc độ tuổi, các hoạt động của chúng tôi cũng được thực hiện bởi người kiểm duyệt, họ sẽ đánh giá các yếu tố chỉ ra rõ ràng rằng người dùng dưới 16 tuổi, chẳng hạn như thông tin người dùng trong phần Thông tin công khai có thể không khớp với những gì người này được cung cấp trong quá trình đăng ký.TikTok chưa bao giờ cung cấp dữ liệu người dùng cho chính phủ Trung Quốc và chúng tôi sẽ không làm điều đó ngay cả khi chính phủ yêu cầu ”, người này nhấn mạnh.
hải yến (dựa theo Telegraph)