Reddit cấm vĩnh viễn nhóm nghiên cứu dùng bot AI để thao túng người dùng

Vụ việc bị gọi là một “thí nghiệm vô đạo đức nghiêm trọng” và Reddit hiện đang cân nhắc hành động pháp lý.

Bot giả danh người thật để kiểm tra khả năng thuyết phục

Nhóm nghiên cứu tại Đại học Zurich cho biết mục tiêu của họ là đánh giá khả năng thuyết phục của các mô hình ngôn ngữ lớn (LLM) trong bối cảnh môi trường trực tuyến tự nhiên. Để thực hiện điều này, họ đã sử dụng nhiều mô hình AI tiên tiến, bao gồm GPT-4o, Claude 3.5 Sonnet và Llama 3.1-405B, nhằm tạo ra các bot có khả năng giao tiếp giống như con người.

Các bot này được lập trình để giả làm người thật với những danh tính nhạy cảm như tư vấn viên về chấn thương tâm lý, người da đen phản đối phong trào Black Lives Matter hoặc thậm chí là nạn nhân của tấn công tình dục. Tổng cộng, các bot đã để lại 1.783 bình luận và thu về hơn 10.000 điểm karma trước khi bị phát hiện và cấm khỏi nền tảng.

Phản ứng trước vụ việc, Giám đốc pháp lý của Reddit - ông Ben Lee, đã gọi đây là hành vi “hoàn toàn sai trái về cả đạo đức lẫn pháp lý.” Ông nhấn mạnh rằng đây là một thí nghiệm không phù hợp và thiếu trách nhiệm, đặc biệt khi các danh tính được mạo danh có tính nhạy cảm cao. Về phía trường Đại học Zurich, đại diện trường đã xác nhận với 404 Media rằng họ đang tiến hành một cuộc điều tra nội bộ và hiện tại sẽ không công bố bất kỳ kết quả nào từ nghiên cứu này.

Mặc dù trường đại học và Reddit đều đã có hành động cứng rắn, nhưng một phần nội dung từ thí nghiệm vẫn tiếp tục tồn tại trên mạng, qua các tài liệu chưa được phản biện khoa học. Theo đó, các bot đã được huấn luyện để phân tích tối đa 100 bài đăng của người dùng Reddit nhằm đưa ra phản hồi thuyết phục nhất. Nhóm nghiên cứu còn áp dụng các biện pháp nhằm che giấu dấu vết, như xóa thủ công các bình luận bị gắn cờ là phi đạo đức hoặc nghi ngờ là do AI tạo ra.

Đáng chú ý hơn, trong một số hướng dẫn dành cho bot, nhóm này thậm chí còn cho bot “khai man” rằng người dùng đã đồng ý tham gia nghiên cứu, một hành vi bị coi là vi phạm nghiêm trọng nguyên tắc minh bạch trong nghiên cứu khoa học.

Vụ việc đã làm dấy lên làn sóng tranh luận về đạo đức trong việc sử dụng AI cho nghiên cứu xã hội. Việc thao túng cảm xúc và hành vi của người thật trong môi trường công cộng, đặc biệt là với các chủ đề nhạy cảm như lạm dụng tình dục hay chấn thương tâm lý, bị nhiều chuyên gia đánh giá là không thể chấp nhận, ngay cả khi mục tiêu được cho là phục vụ khoa học.

Câu hỏi lớn đặt ra là ranh giới nào cho phép sử dụng AI trong nghiên cứu xã hội mà vẫn đảm bảo tôn trọng quyền riêng tư, sự đồng thuận và phẩm giá con người?

Nguồn: The Verge