Douyin, Tiktok phiên bản Trung Quốc, sử dụng công nghệ nhận dạng khuôn mặt để kiểm soát người nước ngoài. Nhưng câu chuyện không dừng lại ở đó.
Những video hài hước về cha mẹ, những buổi hòa tấu piano cuồng nhiệt hay những câu chuyện không có thật về những đứa trẻ – nạn nhân của nạn buôn người – được tìm thấy trong tủ quần áo… là những nội dung. nội dung trên TikTok, ứng dụng chia sẻ video với hơn 500 triệu người dùng phương Tây.
Và cuộc sống dường như không khác mấy trên Douyin, phiên bản TikTok của Trung Quốc, đã sản sinh ra những triệu phú mới trên mạng xã hội nhờ sự bùng nổ của ngành phát trực tiếp. Tuy nhiên, đằng sau hậu trường, các streamer Trung Quốc phải đối mặt với một chế độ giám sát và kiểm duyệt tự động cực kỳ phức tạp.
Ứng dụng Douyin kiểm duyệt người nước ngoài bằng công nghệ nhận dạng khuôn mặt. Hình ảnh: điện báo.
Vào ngày 8 tháng 7, một người đàn ông Anh tên Joshua Dummer đã gặp phải một tình huống trớ trêu trên Douyin, khi người vợ Trung Quốc của anh ta muốn phát trực tiếp những hình ảnh của anh ta từ căn hộ của họ ở Bắc Kinh. Bằng cách nào đó – rất có thể là do công nghệ nhận dạng khuôn mặt – Douyin đã phát hiện ra sự hiện diện của Dummer và tự động ngừng phát trực tiếp với thông báo: người nước ngoài bị cấm phát video trực tiếp mà không có sự chấp thuận của chính phủ Trung Quốc. Quốc gia cho phép.
Dummer chỉ đơn giản ngồi trên ghế sofa và kể câu chuyện hàng ngày của mình. Điều đó đủ để chọc giận hệ thống kiểm duyệt của Douyin. Vợ của Dummer cũng bị chặn phát trực tiếp.
Hệ thống kiểm duyệt và giám sát hoạt động trên các nguyên tắc khác nhau. Một hệ thống giám sát có thể sử dụng công nghệ nhận dạng khuôn mặt để quét các chương trình phát sóng trực tiếp và đoán tuổi của người dùng, báo cáo cho người điều hành nếu người dùng có dấu hiệu dưới 16 tuổi.
Trước khi bắt đầu phát trực tiếp, người dùng cần vượt qua một bước kiểm duyệt khác để kiểm tra xem khuôn mặt của họ có khớp với ảnh trên chứng minh nhân dân do nhà nước cấp hay không. Buổi phát trực tiếp theo mặc định không dành cho người nước ngoài hoặc cư dân từ Hồng Kông.
Nhiều bộ lọc khác cũng được sử dụng để xếp hạng những người phát trực tuyến, bởi vì người dùng Trung Quốc cần tuân thủ “trật tự công cộng và phong tục tốt” – một loại “xếp hạng an toàn”, tương tự như “điểm tin tức”. tin tưởng”. Nếu điểm giảm xuống dưới một mức nhất định, người đó sẽ bị hệ thống khóa.
Trong khi đó, công nghệ nhận dạng giọng nói và văn bản được sử dụng để loại bỏ các vi phạm, chẳng hạn như “mê tín dị đoan”, phỉ báng Đảng Cộng sản Trung Quốc, thậm chí cả các video ASMR (phản ứng cực đoan). niềm vui độc lập) cũng bị cấm vì “khiêu dâm”.
Tất cả các phương pháp kiểm duyệt trên đều được ghi lại trong một tài liệu bí mật của ByteDance, công ty mẹ của TikTok và Douyin, sau đó được tiết lộ bởi Izzy Niu, một phóng viên ở New York. Tài liệu này giải thích các ứng dụng đã được điều chỉnh theo luật kiểm duyệt Internet nghiêm ngặt của Trung Quốc do sự phát triển và hỗn loạn chưa từng có của ngành phát trực tiếp.
Sự việc trên Douyin và văn bản kiểm duyệt này đã đặt ra nhiều câu hỏi khó cho TikTok trong bối cảnh đang phải đối mặt với nhiều cáo buộc điều tra quyền riêng tư tại Mỹ và Anh. Tồi tệ hơn, TikTok mới đây cũng bị “cấm cửa” tại Ấn Độ. Liệu TikTok có áp dụng các công nghệ giống Douyin cho người dùng phương Tây hay không và nếu có thì dữ liệu người dùng đó được sử dụng như thế nào? Đến nay, TikTok đã từ chối trả lời những câu hỏi này.
Người nước ngoài bị cấm phát trực tuyến ở Trung Quốc
Giống như khoảng 850 triệu người dùng các ứng dụng cây nhà lá vườn của Trung Quốc đại lục, Dummer không xa lạ gì với các hệ thống kiểm duyệt của Bức tường lửa vĩ đại.
Chính vì vậy, anh không khỏi sốc khi chứng kiến vợ phải trải qua quá nhiều bước xác minh danh tính trước khi bắt đầu live stream, trong đó có việc gửi ảnh chứng minh thư và ảnh chụp. Thực tế.
“Tất cả các ứng dụng, trang web và phương tiện truyền thông của Trung Quốc đều phải tuân theo các quy định của nhà nước về nội dung nào được coi là phù hợp”, Dummer nói. “Đây là lần đầu tiên tôi bị cấm phát sóng và yêu cầu làm thêm các bước đăng ký chỉ vì là người nước ngoài”, anh nhấn mạnh.
Năm 2017, Bộ Văn hóa Trung Quốc chính thức cấm người nước ngoài phát video trực tiếp mà không có “sự cho phép” của chính phủ. Tuy nhiên, phải đến gần đây, lệnh này mới được thực thi nghiêm túc. Nguyên nhân có thể do phong trào livestream tại Trung Quốc phát triển quá nhanh dưới tác động của Covid-19. Ngày càng có nhiều người nước ngoài báo cáo rằng video trực tiếp của họ đột ngột bị dừng.
Các báo cáo cũng chỉ ra rằng Douyin thậm chí đã ngừng phát trực tiếp các video của người dùng sử dụng tiếng Quảng Đông, nhánh ngôn ngữ Trung Quốc chiếm ưu thế ở Hồng Kông.
Hệ thống giám sát hoàn chỉnh
Vào ngày 9 tháng 7, người phát ngôn của ByteDance đã xác nhận việc kiểm duyệt luồng trực tiếp của Dummer. ByteDance cho biết: “Tất cả quá trình kiểm duyệt luồng trực tiếp Douyin đều do con người thực hiện trong thời gian thực. Do đó, chúng tôi có thể xác nhận rằng trong trường hợp của Dummer, việc kiểm duyệt do chính con người thực hiện”.
Tuy nhiên, sách trắng của ByteDance đã lật tẩy chúng.
Theo tài liệu mà nhà báo Niu tìm thấy, “để ngăn chặn rủi ro phát sinh từ tất cả các khía cạnh của phát trực tiếp, ByteDance đã thiết lập một quy trình giám sát hoàn chỉnh”, tài liệu viết. Ứng dụng sử dụng AI để phân tích từng chi tiết của từng video trực tiếp, bao gồm cả hành vi của người xem. Các video đáng ngờ sẽ bị “gắn cờ” và gửi đến người kiểm duyệt, người này có thể ngừng phân phối video hoặc thậm chí chặn người dùng.
Sơ đồ hệ thống kiểm duyệt nội dung phát trực tuyến của ByteDance. Nguồn: ByteDance.
Một số phương pháp trong sơ đồ kiểm duyệt này khá phổ biến ở phương Tây. Cả Facebook và YouTube đều sử dụng AI để kiểm soát các dịch vụ trên nền tảng này, mở rộng mạng lưới kiểm duyệt của họ trong đại dịch khi họ nỗ lực xóa thông tin sai lệch về Covid-19 hoặc các phương pháp điều trị phản tác dụng. khoa học. Các nhà phê bình có thể lập luận rằng các quy tắc của hai ông lớn cũng kỳ quái như của ByteDance.
Ví dụ: Facebook thường xuyên theo dõi người dùng để phát hiện các dấu hiệu buôn bán ma túy, lan truyền tin tức giả mạo, sùng bái các nhóm thù địch hoặc người dùng đang có ý định tự tử. Kể từ khi vụ tấn công khủng bố tại nhà thờ Hồi giáo Christchurch vào năm 2019 được thủ phạm phát trực tiếp trên nền tảng này, Facebook đã phải cam kết với các chính phủ phương Tây về quy trình kiểm duyệt nội dung.
Các công ty này có nhiều quy tắc giống nhau. Cả Facebook và ByteDance đều nói không với nội dung khiêu dâm, ảnh khỏa thân, quấy rối, lừa đảo, vi phạm bản quyền và lừa đảo vị thành niên.
Tuy nhiên, vẫn có sự khác biệt.
ByteDance cấm mọi nội dung phát trực tiếp có xu hướng “chống Cộng sản hoặc chống chính phủ Trung Quốc”. Chắc chắn mê tín dị đoan là điều cấm kỵ, cũng như hút thuốc và uống rượu, sùng bái tiền bạc và xúc phạm phụ nữ.
Thật kỳ lạ, công ty luôn tìm ra lý do để cấm nhiều xu hướng phổ biến. ASMR – video độc thoại kích thích não bộ bằng cảm giác ảo – cũng nằm trong danh sách nội dung phù hợp, vì đôi khi chúng “thu hút người xem bằng những dấu hiệu tình dục mạnh mẽ”, chẳng hạn như “liếm tai”. “.
Cơn sốt slime được nhiều trẻ em Anh yêu thích cũng bị cấm, do thành phần slime có chứa mật đường, có nguy cơ gây hại cho con người. ByteDance thậm chí còn trích dẫn một trường hợp ở Manchester vào năm 2017, khi một đứa trẻ người Anh mê YouTube bị bỏng hóa chất nghiêm trọng khi làm “chất nhờn kỳ lân”.
Và tất nhiên, cũng có những quy định cụ thể về việc phụ nữ có thể mặc gì khi phát trực tiếp. Quy định về trang phục của Douyin từng bị chỉ trích nặng nề nhưng quy định của ByteDance chặt chẽ hơn nhiều, thậm chí chúng còn có hình ảnh minh họa cụ thể.
Trong trường hợp của Dummer, không rõ tại sao anh ta bị “gắn cờ”. Một phóng viên người Mỹ cư trú tại Trung Quốc sau khi thử nghiệm ứng dụng đã kết luận rằng rất khó có khả năng Douyin tiến hành phân tích đặc điểm khuôn mặt của những người phát trực tiếp dựa trên đặc điểm dân tộc.
Một giả thuyết cho rằng nền tảng này chỉ đơn giản kiểm tra khuôn mặt của người phát trực tiếp để so sánh với ảnh ID, không cho phép người nước ngoài phát trực tiếp theo mặc định. Một khả năng khác là AI nhận dạng giọng nói có thể phát hiện Dummer sử dụng tiếng Anh và phản ứng lại.
Dù bằng cách nào, ByteDance tuyên bố hệ thống của họ đã hoạt động. Từ năm 2018 đến 2019, số trường hợp nội dung trực tiếp vi phạm quy định đã giảm 58%, trong đó 93% trường hợp vi phạm được hệ thống giám sát phát hiện trước khi người dùng khác báo cáo. cho người điều hành. So với báo cáo minh bạch gần đây nhất của TikTok, nền tảng này bao gồm các video không phát trực tuyến với tỷ lệ 98,2%.
Nghi ngờ bủa vây TikTok
Tất cả những điều này có ý nghĩa gì đối với TikTok? Ứng dụng này có phần tách biệt với Douyin khi chạy trên các mạng khác nhau. Tuy nhiên, cả hai đều được phát triển ở Trung Quốc và có chung các tính năng cốt lõi, trong đó Douyin thường được coi là nơi thử nghiệm các ý tưởng mới trước khi được đưa vào TikTok.
ByteDance vẫn đang cố gắng tách biệt hai ứng dụng, cố gắng mời Kevin Mayer, cựu Giám đốc điều hành của Disney, làm giám đốc điều hành của TikTok và thành lập một văn phòng kỹ thuật mới dành riêng cho TikTok ở Hoa Kỳ.
Nhưng điều đó không đủ để ngăn các quan chức Hoa Kỳ đặt câu hỏi về việc chính phủ Trung Quốc có quyền truy cập vào tất cả dữ liệu cá nhân mà TikTok thu thập. TikTok luôn phủ nhận việc cung cấp dữ liệu cho nhà nước Trung Quốc, hiện tại và trong tương lai.
Việc Douyin sử dụng công nghệ ID và nhận dạng khuôn mặt để kiểm soát người dùng cũng vượt xa hầu hết các ứng dụng phương Tây. Mặc dù các hệ thống phát hiện thanh thiếu niên của nền tảng vẫn đang trong giai đoạn “thử nghiệm” khi sách trắng được xuất bản, nhưng hiện tại chúng có thể đã được triển khai rộng rãi.
TikTok đang bị các cơ quan quản lý Hoa Kỳ điều tra vì cáo buộc vi phạm quyền riêng tư của trẻ em và đang bị bốn thanh thiếu niên ở Illinois kiện vì thu thập dữ liệu khuôn mặt mà không có sự đồng ý của họ. .
Kiểm duyệt cũng không tồn tại ở Trung Quốc. Các phóng viên điều tra đã khai quật được các tài liệu nội bộ cho thấy vào năm 2019, TikTok đã yêu cầu người điều hành chặn video của những người dùng có hình dạng cơ thể không bình thường, nhiều nếp nhăn hoặc rối loạn mắt.
Theo báo cáo, mục tiêu là đảm bảo rằng người dùng có ngoại hình đẹp sẽ thu hút nhiều người dùng mới đến và yêu thích nền tảng hơn là người dùng mới rời khỏi ứng dụng khi gặp phải hình ảnh xấu. xấu hoặc kém chất lượng.
Một cuộc điều tra khác cho thấy TikTok có chính sách chặn một cách có hệ thống các video chiếu những người khuyết tật, chẳng hạn như người mắc chứng tự kỷ, hội chứng Down hoặc biến dạng khuôn mặt, dưới chiêu bài biện minh cho hành động của họ. điều đó chỉ giúp nhóm người dùng này không bị trêu chọc. Một người được gắn mác “người dùng đặc biệt” ở Đức gọi hành vi này là “phân biệt đối xử” và “vô nhân đạo”.
Không chỉ vậy, các nguyên tắc chính trị đã được ban hành để kiểm duyệt video của người dùng phương Tây.
Trước loạt câu hỏi đó, TikTok trả lời rằng hầu hết các tài liệu mà phóng viên chỉ ra đã lỗi thời và không còn hiệu lực. Công ty thậm chí còn không xác nhận một số tài liệu đó. Phải thừa nhận rằng các quy tắc liên quan đến chính trị và khuyết tật là thô thiển, nhưng chúng là một nỗ lực để ngăn chặn các xung đột trên mặt đất ngay từ đầu, và sau đó đưa ra các giải pháp tinh tế. hơn.
Vậy bao nhiêu hệ thống kiểm duyệt và giám sát của Douyin được đưa vào TikTok? Có phải TikTok cũng sử dụng công nghệ nhận dạng khuôn mặt? Nếu vậy, làm thế nào chúng được sử dụng? Nói cách khác, người dùng phương Tây nên quan tâm đến điều này như thế nào?
Người phát ngôn của TikTok từ chối trả lời những câu hỏi cụ thể đó, chỉ tiết lộ: “TikTok rất coi trọng sự an toàn của người dùng trẻ tuổi. Chúng tôi có các quy định nghiêm ngặt đối với người dùng dưới 16 tuổi tham gia phát trực tiếp”.
“Ngoài phân khúc độ tuổi, các hoạt động của chúng tôi cũng được thực hiện bởi người kiểm duyệt con người, họ sẽ đánh giá các yếu tố cho thấy rõ ràng rằng người dùng dưới 16 tuổi, chẳng hạn như thông tin người dùng trong phần Thông tin công khai có thể không khớp với những gì người này được cung cấp trong quá trình đăng ký. TikTok chưa bao giờ cung cấp dữ liệu người dùng cho chính phủ Trung Quốc và chúng tôi sẽ không làm điều đó ngay cả khi chính phủ đó có yêu cầu. Người này nhấn mạnh.
yến biển (dựa theo điện báo)