Sora vừa cập nhật giúp kiểm soát video AI của người dùng tốt hơn

Trong bối cảnh deepfake ngày càng lan rộng và các công cụ tạo nội dung AI trở nên phổ biến, nỗ lực của OpenAI mới chỉ là bước khởi đầu trong hành trình dài nhằm đảm bảo công nghệ được sử dụng một cách có trách nhiệm, minh bạch và an toàn cho tất cả người dùng.

Người dùng có thể giới hạn phạm vi hoạt động của “AI bản sao”

Bill Peebles, người đứng đầu nhóm phát triển Sora, cho biết bản cập nhật mới cho phép người dùng đặt giới hạn cụ thể cho phiên bản AI của mình. Họ có thể ngăn “bản sao” xuất hiện trong các video liên quan đến chính trị, cấm AI sử dụng những từ ngữ nhạy cảm hoặc thậm chí tránh việc hình ảnh của mình xuất hiện trong video có các yếu tố không mong muốn như món ăn mà họ không thích.

Thomas Dimson, một thành viên của OpenAI bổ sung rằng người dùng còn có thể cá nhân hóa phong cách của AI, chẳng hạn thiết lập để phiên bản ảo luôn đội một chiếc mũ đặc trưng trong mọi video, giúp tạo dấu ấn nhận diện riêng.

Bản cập nhật này được xem là phản ứng trực tiếp của OpenAI trước làn sóng chỉ trích liên quan đến hiện tượng “AI rác” tràn ngập internet, trong đó hàng loạt video deepfake được lan truyền với nội dung gây hiểu lầm. Peebles cho biết công ty đang nỗ lực cải thiện hệ thống watermark để tăng độ bền và tính minh bạch trong việc nhận diện nội dung tạo bằng AI, đồng thời mở rộng thêm các công cụ giúp người dùng tự bảo vệ hình ảnh của mình.

Dù vậy, nhiều chuyên gia vẫn bày tỏ sự hoài nghi, cho rằng không biện pháp kỹ thuật nào có thể ngăn hoàn toàn việc lạm dụng AI. Lịch sử phát triển của các mô hình ngôn ngữ như ChatGPT hay Claude từng chứng minh rằng luôn tồn tại những cách để vượt qua giới hạn an toàn, tạo ra nội dung độc hại hoặc sai lệch.

Từ khi ra mắt, Sora đã khiến mạng xã hội tràn ngập các video deepfake được chia sẻ với tốc độ chóng mặt. Hệ thống “cameo” trước đây của ứng dụng chỉ cho phép người dùng lựa chọn xuất hiện trước “mọi người”, “bạn bè được duyệt” hoặc “tất cả bạn bè”, dẫn đến nhiều trường hợp khuôn mặt bị sử dụng trái phép. Thậm chí, chính CEO OpenAI cũng trở thành tâm điểm của làn sóng này khi xuất hiện trong hàng loạt video chế hài hước, từ hát rap đến thực hiện những hành động kỳ quặc như nướng một con Pikachu.

Xem thêm:

• Sony giảm dung lượng lưu trữ PS5 Slim bản kỹ thuật số tại Mỹ, chỉ còn 825GB
• Discord thừa nhận rò rỉ dữ liệu người dùng do đối tác hỗ trợ bị tấn công

Nguồn: The Verge