Google thưởng tới 30.000 USD cho ai phát hiện lỗi trong sản phẩm AI

Với bước đi này, Google tiếp tục khẳng định vị thế tiên phong trong việc thiết lập các chuẩn mực an toàn mới cho ngành công nghiệp trí tuệ nhân tạo đang phát triển với tốc độ chưa từng có.

Tập trung vào các hành vi “AI nổi loạn”

Theo Google, chương trình mới này đặc biệt hướng tới những lỗ hổng có thể khiến AI thực hiện các hành động trái phép hoặc vượt khỏi tầm kiểm soát của người dùng. Đây được xem là nhóm rủi ro nguy hiểm nhất, bởi chỉ một lỗi nhỏ cũng có thể dẫn đến hậu quả lớn.

Ví dụ, một prompt injection có thể khiến Google Home tự động mở khóa cửa mà không cần xác nhận, hoặc một lệnh ẩn khiến AI tóm tắt toàn bộ email cá nhân rồi gửi sang tài khoản của kẻ tấn công. Những tình huống như vậy được Google gọi là “rogue actions”, tức hành vi nổi loạn của AI và sẽ được ưu tiên mức thưởng cao nhất.

Khác với chương trình săn lỗi truyền thống, AI Bug Bounty Program của Google đưa ra tiêu chuẩn mới để xác định một lỗi AI thực sự. Bao gồm các lỗ hổng trong mô hình ngôn ngữ lớn hoặc hệ thống sinh nội dung có thể bị khai thác gây hại, những lỗi điều khiển dữ liệu hoặc hành động người dùng như thay đổi cài đặt, mở khóa thiết bị hoặc xóa dữ liệu, cũng như các trường hợp prompt injection khiến AI bị thao túng kết quả hoặc gửi dữ liệu ra ngoài mà người dùng không hề hay biết.

Google nhấn mạnh rằng những vấn đề liên quan đến nội dung do AI tạo ra, chẳng hạn ngôn từ thù ghét hoặc vi phạm bản quyền, sẽ không được tính là lỗi bảo mật. Các trường hợp này nên được gửi qua kênh phản hồi thông thường để đội ngũ AI Safety tiếp nhận và điều chỉnh mô hình.

Theo công bố của Google, phần thưởng cơ bản dành cho những người phát hiện hành vi “rogue” trong các sản phẩm chủ lực như Google Search, Gemini Apps, Gmail hoặc Google Drive sẽ là 20.000 USD (khoảng 527 triệu đồng). Mức thưởng có thể tăng lên 30.000 USD (khoảng 791 triệu đồng) nếu báo cáo được đánh giá là có chất lượng cao hoặc chứa phát hiện mang tính đột phá.

Đối với các sản phẩm nhỏ hơn như Jules hoặc NotebookLM, phần thưởng sẽ được điều chỉnh ở mức thấp hơn. Tính đến nay, Google đã chi hơn 430.000 USD (khoảng 11.3 tỷ đồng) cho cộng đồng chuyên gia bảo mật kể từ khi bắt đầu mở các chương trình thử nghiệm săn lỗi AI trong hai năm qua.

Bên cạnh chương trình săn lỗi, Google còn giới thiệu CodeMender, một trợ lý AI được thiết kế để tự động vá các lỗ hổng bảo mật trong mã nguồn mở. Theo báo cáo nội bộ, CodeMender đã giúp vá thành công 72 lỗi sau khi được các chuyên gia kiểm định thủ công, minh chứng cho việc Google đang dùng chính AI để củng cố an ninh cho AI.

Chương trình AI Bug Bounty Program cho thấy Google đang nghiêm túc đầu tư vào lĩnh vực an toàn AI không chỉ bằng công nghệ mà còn bằng việc huy động cộng đồng toàn cầu cùng tham gia phát hiện rủi ro.

Đại diện nhóm bảo mật AI của Google khẳng định: “Việc phát hiện sớm lỗi AI không chỉ giúp bảo vệ người dùng mà còn góp phần nâng cao khả năng phòng thủ của toàn bộ hệ sinh thái.”

Xem thêm:

• Lexar ra mắt SSD gắn MagSafe cho iPhone, chịu rơi gần 3 mét
• Google Japan ra mắt bàn phím “quay số” Gboard Dial như điện thoại cổ điển

Nguồn: The Verge