AI Grok gây xôn xao khi liên tục nhắc đến “diệt chủng người da trắng” tại Nam Phi

Điều gây hoang mang là các phản hồi này xuất hiện trong những ngữ cảnh hoàn toàn không liên quan, khiến người dùng vừa ngỡ ngàng vừa không khỏi bật cười.

Khi AI nói về Nam Phi giữa bài đăng... mèo nghịch nước

Một trong những ví dụ điển hình là bài viết từ phóng viên Mike Isaac của New York Times. Khi ông đăng một video về mèo chơi với vòi nước và tag Grok vào với lời bình hài hước “Có thật không vậy?”, nhiều người mong chờ một câu trả lời vui nhộn hoặc nhẹ nhàng từ AI. Tuy nhiên, phản hồi từ Grok lại là một đoạn dài khẳng định rằng “tuyên bố về việc người da trắng bị diệt chủng ở Nam Phi là gây tranh cãi và thiếu bằng chứng đáng tin cậy”. Thậm chí, Chatbot còn đi xa hơn khi trích dẫn các dữ liệu tội phạm, phán quyết pháp lý từ năm 2024 và khẳng định không có tổ chức uy tín nào ủng hộ giả thuyết đó.

Mặc dù thông tin mà Grok đưa ra là chính xác về mặt pháp lý và số liệu, việc nó lặp đi lặp lại phản hồi này trong hàng loạt bình luận không liên quan, từ thú cưng đến văn hóa pop đã tạo ra một bầu không khí kỳ lạ trên nền tảng. Nhiều người dùng cảm thấy khó hiểu, trong khi một số khác lại coi đây là “một trong những khoảnh khắc AI buồn cười nhất năm”.

Tính đến thời điểm hiện tại, Grok đã ngừng hành vi phản hồi không đúng ngữ cảnh và hoạt động bình thường trở lại. Tuy nhiên, đại diện nền tảng X và xAI vẫn chưa có phát ngôn chính thức nào về lý do dẫn đến sự cố. Một số chuyên gia dự đoán đây có thể là lỗi logic trong hệ thống nhận diện ưu tiên chủ đề nhạy cảm hoặc một dạng “gài từ khóa” không đúng ngữ cảnh khiến mô hình ngôn ngữ phản ứng quá đà.

Việc một chatbot AI nhạy bén với chủ đề như vậy không hoàn toàn bất ngờ, đặc biệt trong bối cảnh thông tin sai lệch lan truyền ngày càng mạnh mẽ trên mạng xã hội. Tuy nhiên, trường hợp Grok cho thấy sự nguy hiểm tiềm tàng nếu các hệ thống AI không được thiết lập kiểm soát ngữ cảnh một cách chặt chẽ, dẫn đến việc thông tin dù chính xác lại được đưa ra sai thời điểm và sai đối tượng.

Điều đáng chú ý là sự cố này xảy ra không lâu sau khi chính quyền Trump có động thái gây tranh cãi qua việc cấp quy chế tị nạn cho một số người Afrikaner, nhóm người da trắng gốc Hà Lan sống tại Nam Phi, dựa trên lập luận rằng họ đang đối mặt với một cuộc “diệt chủng”. Tuyên bố này ngay lập tức bị các tổ chức nhân quyền, báo chí quốc tế và cả hệ thống tư pháp Nam Phi phản bác là một thuyết âm mưu có động cơ chính trị.

Trong bối cảnh đó, Grok vốn được cập nhật trên các tập dữ liệu mới nhất và có thể được huấn luyện để ưu tiên phát hiện, phản bác thông tin sai lệch đã vô tình rơi vào cái bẫy phản ứng quá mức. Việc “gác cổng thông tin” là cần thiết với các mô hình AI hiện đại, nhưng sự cố lần này cũng cho thấy ranh giới mong manh giữa phòng chống tin giả và tạo ra trải nghiệm kỳ quặc cho người dùng.

Sự việc với Grok không chỉ là một “tai nạn công nghệ” mà còn đặt ra câu hỏi lớn hơn về cách các nền tảng AI nên cân bằng giữa tính chính xác, trách nhiệm xã hội và sự phù hợp với ngữ cảnh khi tham gia vào các cuộc hội thoại trực tuyến.

Xem thêm: Grok vừa được cập nhật để trở nên thẳng thắn và ít kiêng dè hơn trong các vấn đề chính trị

Nguồn: 9to5Google