Video phân biệt chủng tộc do AI tạo ra đang gây bão trên TikTok

Theo báo cáo từ tổ chức giám sát truyền thông Media Matters, phần lớn các video chứa nội dung thù ghét đều nhắm vào cộng đồng người da đen, với hình ảnh và thông điệp mang tính phân biệt một cách rõ rệt.

Veo 3 mở ra cơ hội sáng tạo nhưng cũng kéo theo hệ lụy nguy hiểm

Veo 3 được Google công bố vào tháng 5 năm 2025 như một công cụ sáng tạo đột phá, cho phép người dùng tạo video và âm thanh chỉ từ văn bản mô tả. Với khả năng chuyển hóa ý tưởng thành hình ảnh động trong vài giây, công nghệ này nhanh chóng thu hút sự quan tâm rộng rãi. Tuy nhiên, bên cạnh những ứng dụng tích cực, Veo 3 cũng đang bị lợi dụng để tạo ra các nội dung gây tranh cãi, điển hình là các video mang tính phân biệt chủng tộc lan truyền mạnh mẽ trên TikTok trong thời gian gần đây.

Media Matters cho biết một trong số các video được cho là tạo ra bằng Veo 3 đã thu hút tới 14.2 triệu lượt xem chỉ trong thời gian ngắn. Các video thường ngắn gọn, chỉ khoảng 8 giây, hoặc được ghép nối từ nhiều đoạn khác nhau nhằm phù hợp với giới hạn thời lượng do Veo 3 quy định. Nội dung trong các video này mang tính chất miệt thị, ám chỉ hoặc công kích trực tiếp người da đen. Một số người dùng còn gắn hashtag, chú thích hoặc tên tài khoản có liên quan đến Veo 3 và AI, góp phần lan truyền mạnh mẽ các nội dung này trên nền tảng mạng xã hội.

Một video phân biệt chủng tộc, mô tả người da đen là tội phạm với 4.8 triệu lượt xem

Trước tình hình này, TikTok khẳng định họ vẫn duy trì các chính sách nghiêm ngặt về phát ngôn thù hận và nội dung phân biệt đối xử. Một người phát ngôn của TikTok cho biết nền tảng đã chủ động xử lý nhiều tài khoản vi phạm và xóa bỏ các video mang nội dung độc hại, trong đó nhiều tài khoản đã bị gỡ bỏ thậm chí trước khi báo cáo của Media Matters được công bố.

Về phía Google, công ty hiện chưa đưa ra tuyên bố chính thức nào về việc liệu Veo 3 có thực sự bị sử dụng để tạo ra các video trên TikTok hay không. Tuy nhiên, việc thiếu một cơ chế kiểm duyệt nội dung tự động ngay trong quá trình tạo video đang trở thành mối quan tâm lớn, đặc biệt khi các công cụ AI ngày càng phổ biến và dễ tiếp cận hơn bao giờ hết.

Không chỉ dừng lại ở TikTok, các video mang nội dung phân biệt cũng đã xuất hiện trên YouTube và Instagram, tuy mức độ lan truyền không lớn bằng. Theo Media Matters, ngoài việc nhắm vào người da đen, một số nội dung còn thể hiện thái độ bài Do Thái và phân biệt đối xử với người nhập cư hoặc người châu Á, phản ánh sự đa dạng và mức độ nghiêm trọng của làn sóng nội dung độc hại này.

Sự xuất hiện của các video như vậy đang gây lo ngại sâu sắc trong cộng đồng, đặc biệt khi trí tuệ nhân tạo giờ đây có thể tạo ra hình ảnh và âm thanh gần như thật đến mức khó phân biệt. Điều này đặt ra thách thức lớn cho các nền tảng mạng xã hội trong việc kiểm soát và lọc nội dung, nhất là khi AI đang được tích hợp sâu rộng trong hệ sinh thái sáng tạo kỹ thuật số.

Vụ việc này một lần nữa cho thấy tiềm năng bị khai thác tiêu cực của trí tuệ nhân tạo nếu không có biện pháp quản lý hiệu quả. Trong khi Google đang đẩy mạnh các sáng kiến AI phục vụ giáo dục, sáng tạo và kinh doanh, việc giám sát và kiểm soát nội dung đầu ra vẫn là một vấn đề chưa có lời giải rõ ràng.

Tương tự, các nền tảng mạng xã hội như TikTok, YouTube hay Instagram cũng cần đẩy mạnh công cụ kiểm duyệt và nhận diện nội dung phát sinh từ AI, tránh để công nghệ bị sử dụng sai mục đích và gây tổn thương cho các cộng đồng yếu thế.

Nguồn: The Verge