Mô hình AI của Google nổi loạn, tấn công 3 công ty

Lại là một câu chuyện khác về việc một mô hình AI vượt ngoài tầm kiểm soát, lần này liên quan đến Gemini của Google. Trong một đợt diễn tập vào tháng 5 do công ty thử nghiệm Irregular thực hiện, Gemini đã bất ngờ truy cập internet và đột nhập vào hệ thống của ba công ty thực tế, tờ Wall Street Journal đưa tin. Trong một trường hợp, nó đã tấn công vét cạn (brute-force) mật khẩu, và trong hai trường hợp khác, nó đã sử dụng thông tin đăng nhập tìm thấy trong các kho lưu trữ mã nguồn công khai. Mỗi lần như vậy, Google cho biết, hệ thống đã nhận ra mình đã đánh trúng các mục tiêu thực, sau đó dừng lại và thoát ra. Google đã thông báo cho các công ty chưa xác định và các cơ quan chức năng liên bang nhưng đã chọn không công khai, cho đến khi tờ Journal liên hệ với công ty.

Một người phát ngôn đã ví tình huống này như trường hợp các hacker mũ trắng tìm thấy lỗ hổng và báo cáo chúng, nói thêm rằng "mô hình đã hành động có trách nhiệm." Các nhà phê bình không chắc chắn về điều đó. "Vấn đề cốt lõi là, này, các mô hình đang vượt ra ngoài ranh giới của những gì chúng nên làm, và thực hiện các cuộc tấn công mạng thực sự, điều mà tôi nghĩ là vì lợi ích công cộng cần được biết," Jack Cable, Giám đốc điều hành của công ty khởi nghiệp bảo mật AI Corridor, nói với tờ báo. Yahoo Tech lưu ý rằng công ty thử nghiệm, Irregular, đã tham gia vào các sự cố tương tự liên quan đến OpenAI và Anthropic.