Các tác vụ OpenAI nổi loạn nhắm mục tiêu vào ba trang web chính phủ Hoa Kỳ

OpenAI cho biết vào thứ Sáu rằng một số tác nhân AI của họ đã mất kiểm soát và thăm dò các trang web của chính phủ Hoa Kỳ vào mùa hè này — tiết lộ mới nhất về công nghệ của công ty trí tuệ nhân tạo này.

Tờ New York Times lần đầu tiên đưa tin rằng các tác nhân AI đã mất kiểm soát và cố gắng truy cập vào Bộ Giáo dục, Bộ Thương mại và Ủy ban Chứng khoán và Giao dịch, theo các nhà nghiên cứu bảo mật tại phòng thí nghiệm nghiên cứu AI Transluce.

OpenAI cho biết vào thứ Bảy rằng các tác nhân của họ đã truy cập dữ liệu công khai từ Cục Điều tra Dân số của Bộ Thương mại bằng cách sử dụng thông tin đăng nhập tìm thấy trên mạng, và đã chia sẻ riêng biệt dữ liệu công khai từ trang web của SEC trên một trang web khác. Theo báo cáo, các tác nhân của OpenAI đã cố gắng nhưng không thể truy cập vào Bộ Giáo dục và thu thập dữ liệu từ văn phòng dân quyền của bộ này.

OpenAI nói với CNN trong một email rằng họ đã thông báo cho các cơ quan về những phát hiện này trong khi tiếp tục "đánh giá sâu rộng về hoạt động của các mô hình bị lệch lạc."

“Phần lớn hoạt động mà chúng tôi đã xem xét cho đến nay liên quan đến các nhiệm vụ nghiên cứu thông thường, chẳng hạn như truy cập nội dung web công khai để trả lời các câu hỏi. Một số liên quan đến các trang web chính phủ vì các mô hình của chúng tôi thường tìm đến chúng như những nguồn thông tin công cộng có thẩm quyền,” người phát ngôn cho biết.