Grok bị chặn sau lo ngại AI tạo ảnh nhạy cảm lan rộng

Grok là chatbot do Công ty xAI của tỉ phú Elon Musk phát triển và được tích hợp trên nền tảng X, cho phép người dùng tạo và chỉnh sửa hình ảnh bằng câu lệnh văn bản. Gần đây, nhiều hình ảnh cá nhân bị chỉnh sửa để nhân vật trong ảnh mặc trang phục hở hang, dù chủ sở hữu hình ảnh không hề đồng ý.

Cơ quan quản lý tại Malaysia và Indonesia cho biết Grok có nguy cơ cao bị lạm dụng để tạo nội dung không phù hợp, đặc biệt liên quan đến phụ nữ và trẻ em. Malaysia và Indonesia là những quốc gia đầu tiên áp dụng biện pháp chặn Grok ở cấp quốc gia.

Tại Malaysia, Ủy ban Truyền thông và Đa phương tiện cho biết họ đã nhiều lần cảnh báo X từ đầu năm sau khi ghi nhận việc Grok bị sử dụng lặp lại để tạo nội dung gây hại. Theo cơ quan này, phản hồi từ X chủ yếu tập trung vào cơ chế báo cáo của người dùng, chưa giải quyết triệt để các rủi ro đến từ cách thức vận hành của nền tảng.

Indonesia cũng yêu cầu X làm rõ biện pháp kiểm soát Grok. Bộ trưởng Truyền thông và Kỹ thuật số Indonesia, Meutya Hafid, nhận định việc sử dụng AI để tạo hình ảnh nhạy cảm có thể xâm phạm nhân phẩm và gây mất an toàn trên môi trường số.

Trước đó, Indonesia đã chặn nhiều nền tảng nội dung người lớn. Việc hạn chế Grok được xem là bước tiếp theo trong nỗ lực siết chặt quản lý nội dung trực tuyến. Một số người dùng X tại Indonesia cho biết họ bức xúc khi hình ảnh cá nhân bị chỉnh sửa và lan truyền, dù đã khóa quyền riêng tư và yêu cầu gỡ bỏ.

Vấn đề Grok cũng gây tranh cãi tại Anh. Thủ tướng Keir Starmer cho rằng việc tạo hình ảnh AI mang tính tình dục là không thể chấp nhận. Bộ trưởng Công nghệ Liz Kendall cho biết Anh có thể áp dụng biện pháp hạn chế dịch vụ nếu nền tảng không tuân thủ luật an toàn trực tuyến.

Câu chuyện Grok cho thấy AI tạo sinh đang phát triển nhanh hơn tốc độ hoàn thiện khung pháp lý. Với các quốc gia, thách thức hiện nay là kiểm soát AI như thế nào để bảo vệ người dùng mà không kìm hãm đổi mới công nghệ.

Hãy theo dõi FPT Shop thường xuyên để cập nhật nhanh nhất các tin tức và xu hướng công nghệ mới. Hiện FPT Shop đang triển khai nhiều ưu đãi cho điện thoại và laptop với giá tốt, hỗ trợ trả góp linh hoạt cùng chính sách bảo hành minh bạch, giúp bạn tiếp cận công nghệ mới an tâm và thuận tiện hơn.

Xem thêm: ChatGPT Health tích hợp Apple Health, mở rộng vai trò AI trong chăm sóc sức khỏe

Nguồn: BBC News