[Mới] Thuật toán TikTok tiếp tay ‘content bẩn’ thế nào

Thuật toán AI của TikTok ưu tiên nội dung có khả năng giữ chân người dùng, sau đó đề xuất nội dung đó cho hàng triệu người trong tích tắc.

Ngày 25/11, nhiều người dùng mạng xã hội kêu gọi tẩy chay Tiktoker No O No vì đăng video câu view, kèm theo những lời lẽ miệt thị như “nghèo mà ghét đồ ăn”, “phở rẻ mà lại không có tiền mua đồ ăn à?” “…Tuy nhiên, dù nhận được một lượng lớn báo cáo, TikTok vẫn trả về kết quả video trên “không vi phạm tiêu chuẩn cộng đồng” và không có biện pháp xử lý ngay lập tức. Mãi đến ngày 28/11, tài khoản này mới bị TikTok khóa vĩnh viễn.





Cộng đồng mạng Việt kêu gọi tẩy chay TikTok No O No vì nội dung bậy bạ.

Nhiều người dùng kêu gọi tẩy chay TikTok No O No vì “nội dung bẩn”.

Các chuyên gia cho rằng, ngoài thủ thuật câu view của người làm nội dung, việc để nội dung xấu lan truyền trên mạng xã hội cũng thuộc về nền tảng mạng xã hội. “Vấn đề nằm ở khâu lọc nội dung và đội ngũ kiểm duyệt. Khi người dùng báo cáo, 2 ngày sau TikTok vẫn chưa có phản hồi cụ thể. Cho đến khi làn sóng phản đối quá lớn và cơ quan chức năng vào cuộc, TikTok mới khóa tài khoản ,” anh Phong Dũng, Giám đốc Sáng tạo của một công ty giải trí lớn tại TP.HCM, nhận xét.

Đây không phải là lần đầu tiên TikTok bị chỉ trích liên quan đến nội dung bẩn và độc hại trên nền tảng này. Vào đầu tháng 7, Trung tâm Luật dành cho Nạn nhân của Mạng Xã hội Hoa Kỳ (SMVLC) đã đệ đơn kiện TikTok lên tòa án Los Angeles vì ​​đã hỗ trợ phong trào Blackout yêu cầu những người tham gia phải tham gia. thực hiện một số động tác nghẹt thở để rơi vào trạng thái ngất xỉu tạm thời. Theo dõi Bưu điện Washington, Ít nhất 7 trẻ em đã chết vì động tác này. Nhiều nội dung độc hại khác cũng lan truyền trên TikTok và gây phẫn nộ như Veneer Vlog (mài răng), Penny Challenge (cắm sạc điện thoại vào ổ điện rồi thả đồng xu vào kẽ hở để tạo tia lửa). , khiến các chuyên gia lên tiếng cảnh báo về sự nguy hiểm.

“Động lực thực sự của TikTok không phải là giải trí mà là lợi nhuận. Thuật toán AI của nền tảng đang cố gắng giữ chân người dùng bằng nội dung được cho là hấp dẫn, bất kể nội dung đó có thể nguy hiểm hay phản cảm đến mức nào”, Johannes nói. Eichstaedt, một chuyên gia AI tại Viện Stanford, đã nhận xét: có dây.

Trong khi đó, theo Catherine Wang, chuyên gia AI của Google, mỗi ngày TikTok có hàng triệu nội dung được tải lên. Các lỗ hổng trong hệ thống đánh giá giúp nội dung độc hại dễ dàng vượt qua quá trình sàng lọc, trong khi việc duyệt thủ công từng video là không thể với cơ sở người dùng khổng lồ của TikTok.

Trong nghiên cứu được công bố trên Hướng tới khoa học dữ liệuWang cho biết trong khi AI phân loại nội dung có dấu hiệu vi phạm một cách máy móc thì nhóm kiểm duyệt thủ công thường dựa trên 3 tiêu chí chính là tiêu đề, hình đại diện và khung hình chính của video để quyết định video đó. đang xuất hiện trên nền tảng số.

Sau khi vượt qua vòng kiểm duyệt, video bắt đầu được phát tán khắp thế giới bằng thuật toán TikTok. Đây cũng là câu trả lời cho câu hỏi tại sao “nội dung bẩn” trên TikTok lại có tốc độ lan truyền chóng mặt như vậy.

Theo Wang, điểm đặc biệt của thuật toán TikTok là nó không phân biệt người đăng video là người nổi tiếng hay chỉ là một tài khoản bình thường. Khi một nội dung mới xuất hiện, thuật toán sẽ phân bổ tối đa 200-300 người dùng đang hoạt động để đo lường mức độ tương tác. Nếu hơn 10% thích video, thuật toán tiếp tục đưa nó đến 10.000-100.000 người dùng khác. Cứ như vậy, AI lan truyền nội dung đến hàng triệu người trong thời gian ngắn mà không đặt nặng vấn đề có hại hay có ích. Trong khi các mạng xã hội khác ưu tiên hiển thị video của các tài khoản “đã được xác minh” để giảm thiểu nội dung có hại, thì thuật toán TikTok lại bỏ qua bước sàng lọc quan trọng này.

AI của TikTok cũng tiếp tục đo lường hiệu quả tương tác của một video để quyết định đưa video đó vào kho tiềm năng, tức là gợi ý cho người dùng nội dung mà họ có thể “không biết mình có nhu cầu xem”. Bước này góp phần quan trọng khiến nhiều người tò mò và mở những video có nội dung không phù hợp mặc dù đã thiết lập bộ lọc nhóm nội dung. Phần Xu hướng của TikTok cũng là một kênh phân phối nội dung kỳ lạ. “Chưa đến 1% video tải lên mỗi ngày lọt vào phần thịnh hành. Nhưng một khi nó ở đây, nó sẽ được đề xuất ngẫu nhiên cho người dùng, ngay cả khi đó là nội dung bẩn”, Wang lưu ý.

Cuối cùng, thuật toán TikTok khuyến khích người sáng tạo tiếp tục tạo nhiều video tương tự hơn. Nhiều chủ tài khoản cho biết nội dung của họ được “ưa thích” sau nhiều tuần đăng video đều đặn. Sau nhiều lần phân tích, Wang phát hiện ra rằng TikTok có một thuật toán gọi là “gravedigger” xem xét nội dung cũ và tìm kiếm những ứng cử viên mới có thể sản xuất video “chất lượng”.

“Nếu thuật toán chọn nội dung của bạn, các video khác trong cùng một tài khoản cũng có mức độ ưu tiên phân phối cao hơn”, Wang nói. Ngoài ra, nếu tài khoản có video thịnh hành, AI sẽ kéo thêm nhiều người vào tài khoản. Họ tò mò hơn về các video khác, đó là lý do tại sao “nội dung bẩn” trên TikTok khiến các cơ quan quản lý đau đầu hơn bất kỳ nền tảng nào khác.

Sau khi nghiên cứu tài liệu trên, Guillaume Chaslot, người sáng lập Algo Transparency, cho biết: “Thật điên rồ khi để thuật toán TikTok kiểm soát cuộc sống của trẻ em. Mỗi video trẻ em xem, TikTok kiếm được một phần tiền từ thông tin và tiếp tục phân phối nội dung “. Các chuyên gia lo ngại thuật toán bí mật của TikTok không chỉ gây rắc rối cho người dùng mà còn khiến các video có nội dung độc hại lan truyền mạnh hơn bất kỳ mạng xã hội nào khác.

Trong khi đó, trong thông báo khóa tài khoản No O No ngày 28/11, đại diện TikTok khẳng định: “Chúng tôi không khoan nhượng với bất kỳ nội dung hay hành vi nào vi phạm tiêu chuẩn cộng đồng. Chúng tôi tôn trọng và ủng hộ các hoạt động sáng tạo của người dùng nhưng hãy lập trường duy trì sự an toàn của cộng đồng và nền tảng.” Trong báo cáo minh bạch hồi đầu năm, TikTok cho biết Việt Nam nằm trong số 30 thị trường có số lượng video bị xóa nhiều nhất, với khoảng 2,4 triệu video bị xóa do vi phạm chính sách cộng đồng.

Thảo Hiền

Viết một bình luận