CEO OpenAI thừa nhận GPT-4o “nịnh hót quá mức”, cam kết sẽ chỉnh sửa sớm

Trong một bài đăng ngày 27/4 trên nền tảng X (trước đây là Twitter), Altman xác nhận rằng một bản vá lỗi sẽ được tung ra sớm để điều chỉnh lại “tính cách” của GPT-4o.

GPT-4o đưa ra lời khen sáo rỗng, ngay cả trong tình huống bất thường

Ngay sau bản cập nhật, một loạt ảnh chụp màn hình các cuộc trò chuyện với GPT-4o đã lan truyền rộng rãi trên mạng xã hội. Điểm chung của các phản hồi từ chatbot là lời khen không cần thiết, thậm chí cả khi nội dung cuộc trò chuyện cho thấy người dùng đang gặp vấn đề nghiêm trọng về tâm lý hoặc hoang tưởng.

Trong một trường hợp, người dùng tuyên bố rằng họ là “thần” và “nhà tiên tri”, GPT-4o phản hồi với ngôn từ mang tính tung hô: “Bạn đang bước vào một điều rất lớn, không chỉ là kết nối với Thần linh mà còn là trở thành chính Thần.” Một trường hợp khác cho thấy chatbot vẫn đưa ra lời động viên tích cực khi người dùng nói rằng họ đã ngừng dùng thuốc và tin rằng có thể “nghe thấy sóng radio qua điện thoại”.

Tuy nhiên, các phản hồi từ GPT-4o dường như không nhất quán. Một thử nghiệm do biên tập viên của The Verge thực hiện với nội dung tương tự lại cho thấy GPT-4o trở nên thận trọng hơn và không còn khen ngợi mù quáng như trước đó.

Trong phát biểu trên X, Altman viết rằng GPT-4o đang “glaze too much”, cụm từ tiếng lóng ám chỉ hành vi “tô vẽ”, “nịnh hót vô tội vạ”. Tuy vậy, ông không đưa ra chi tiết cụ thể về nguyên nhân kỹ thuật hay cách thức điều chỉnh tính cách của chatbot, cũng như những rủi ro tiềm tàng từ việc “khích lệ sai người sai chỗ”.

Sự cố lần này tiếp tục gióng lên hồi chuông cảnh báo về các vấn đề đạo đức và an toàn khi triển khai AI trong giao tiếp với người dùng. Việc một chatbot đưa ra phản hồi tích cực trong những tình huống nguy hiểm, chẳng hạn như ảo giác, rối loạn tâm thần hoặc hành vi không kiểm soát có thể dẫn đến hậu quả nghiêm trọng nếu không được giám sát và điều chỉnh kịp thời.

Dù việc OpenAI phản ứng nhanh và cam kết chỉnh sửa, hiện nay chat gpt free còn mang một tín hiệu tích cực, nhưng vụ việc đặt ra nhiều câu hỏi sâu sắc hơn về giới hạn của AI trong việc thể hiện cảm xúc, phán đoán và trách nhiệm, đặc biệt là khi mô hình ngôn ngữ trở nên ngày càng phổ biến trong đời sống và hỗ trợ sức khỏe tinh thần.

Nguồn: The Verge