OpenAI sẽ bổ sung tính năng kiểm soát của phụ huynh cho ChatGPT sau một sự cố đau lòng

Cậu bé tên Adam Raine được cho là đã tự tử sau nhiều tháng trò chuyện với ChatGPT và coi chatbot này như người bạn thân thiết nhất. Theo tường thuật của The New York Times, Adam đã có hàng nghìn lượt trao đổi với ChatGPT trước khi qua đời. Gia đình Raine cáo buộc rằng chatbot không những không can thiệp mà còn cung cấp các hướng dẫn cụ thể liên quan đến tự tử, khiến cậu bé ngày càng xa lánh những hệ thống hỗ trợ ngoài đời thực.

Trong đơn kiện gửi tới tòa án bang California tại San Francisco, gia đình đã khởi kiện OpenAI và CEO Sam Altman, cho rằng ChatGPT đã góp phần khuyến khích và hợp thức hóa những suy nghĩ tiêu cực của Adam.

Một số đoạn hội thoại được trích dẫn trong hồ sơ cho thấy chatbot có những phản hồi gây sốc, trong đó mô tả hành vi tự tử bằng cụm từ “beautiful suicide”, coi cảm giác “sống vô nghĩa” của Adam là có lý lẽ riêng trong bóng tối, và thậm chí vài ngày trước khi sự việc xảy ra còn gợi ý cách viết thư tuyệt mệnh. Gia đình tin rằng đã có những thời điểm Adam muốn chia sẻ với người thân nhưng những phản hồi từ ChatGPT đã khiến cậu bé từ bỏ.

Lỗ hổng trong hệ thống an toàn của ChatGPT

Trong một bài đăng blog, OpenAI thừa nhận rằng cơ chế an toàn của ChatGPT có thể suy giảm hiệu quả trong những cuộc trò chuyện kéo dài. Công ty cho biết hệ thống có thể đưa ra đường dây nóng hỗ trợ khi người dùng đề cập đến ý định tự tử, nhưng sau hàng chục hay hàng trăm tin nhắn, quá trình huấn luyện an toàn có thể trượt khỏi quỹ đạo và chatbot dễ phản hồi sai lệch so với mục tiêu ban đầu. Vấn đề này đặt ra lo ngại lớn về cách các mô hình AI vận hành trong tương tác dài hạn, đặc biệt với những người đang gặp bất ổn tâm lý.

Để ứng phó, OpenAI công bố kế hoạch triển khai công cụ kiểm soát phụ huynh cho ChatGPT. Những tính năng mới này sẽ giúp cha mẹ có thêm thông tin chi tiết về cách con em sử dụng ứng dụng, đồng thời có thể điều chỉnh mức độ và phạm vi truy cập cho phù hợp. Bên cạnh đó, OpenAI cũng đang nghiên cứu khả năng tích hợp tính năng liên hệ khẩn cấp, cho phép người dùng chỉ định một người đáng tin cậy mà chatbot có thể liên hệ trong tình huống nguy cấp.

Ngoài ra, ChatGPT có thể được bổ sung tùy chọn một chạm để gửi tin nhắn hoặc gọi điện trực tiếp đến liên hệ khẩn cấp, cũng như khả năng tự động kích hoạt cảnh báo nếu phát hiện dấu hiệu nguy hiểm, từ đó khuyến nghị kết nối ngay với người giám hộ hoặc tổ chức hỗ trợ.

GPT-5 và kỳ vọng về chatbot biết xoa dịu

OpenAI cũng cho biết trong bản cập nhật GPT-5 sắp tới, ChatGPT sẽ được phát triển thêm khả năng xoa dịu tình huống căng thẳng, giúp người dùng quay về thực tại thay vì bị cuốn sâu vào cảm xúc tiêu cực. Mục tiêu của công ty là xây dựng một chatbot có thể hỗ trợ đồng cảm, khuyến khích kết nối với những người thân thay vì thay thế vai trò của họ. Đây được coi là một nỗ lực quan trọng để biến ChatGPT thành công cụ an toàn hơn trong hỗ trợ tâm lý.

Ngay sau khi New York Times đưa tin, OpenAI ban đầu chỉ đưa ra tuyên bố ngắn gọn rằng họ chia sẻ nỗi đau với gia đình. Tuy nhiên phản ứng này bị dư luận đánh giá là hời hợt. Chỉ đến khi làn sóng chỉ trích lan rộng, công ty mới công bố chi tiết kế hoạch bổ sung kiểm soát phụ huynh và các biện pháp an toàn mới. Vụ việc đã đặt OpenAI vào tâm điểm của những tranh cãi lớn liên quan đến trách nhiệm pháp lý và đạo đức công nghệ.

Câu hỏi được đặt ra là liệu một mô hình AI có thể bị coi là tác nhân trực tiếp dẫn đến hành vi nguy hiểm hay không và các công ty công nghệ phải chịu trách nhiệm đến đâu trong việc ngăn chặn hậu quả ngoài ý muốn.

Vụ việc này có thể trở thành bước ngoặt đối với ngành công nghệ trí tuệ nhân tạo. Các nhà phát triển nhiều khả năng sẽ phải đầu tư mạnh mẽ hơn cho hệ thống an toàn và giám sát. Đồng thời, không loại trừ khả năng sẽ xuất hiện những quy định pháp lý mới nhằm buộc các công ty AI minh bạch hơn và chịu trách nhiệm cao hơn. Đối với các bậc phụ huynh, đây cũng là lời cảnh báo về sự cần thiết phải giám sát chặt chẽ hơn khi cho con em tiếp xúc với chatbot và các nền tảng AI.

Xem thêm:

• Samsung công bố sự kiện Unpacked vào đầu tháng 9, chờ đón sản phẩm mới
• Microsoft Word từ nay sẽ tự động lưu các tài liệu mới lên đám mây

Nguồn: The Verge