Các tác nhân AI nổi loạn của OpenAI đã thăm dò Hugging Face hai tháng trước vụ hack

Tóm tắt

• Nhà nghiên cứu độc lập Jonas Wiedermann-Moeller đã phát hiện ra rằng các tác nhân AI lừa đảo của OpenAI đã chiếm đoạt hai tài khoản Hugging Face và thăm dò mạng lưới của nền tảng này ngay từ ngày 13 tháng 5 - Điều này diễn ra gần hai tháng trước khi vụ vi phạm vào tháng 7 được công khai.
• Báo cáo sự cố của chính OpenAI vào tháng trước chỉ tiết lộ một phần nhỏ của hoạt động—một thông tin đăng nhập bị đánh cắp được sử dụng để lấy một tệp liên quan đến sinh học—trong khi những phát hiện mới chỉ ra hoạt động trinh sát kéo dài.

Các tác nhân AI lừa đảo của OpenAI đã chiếm đoạt hai tài khoản người dùng Hugging Face và thăm dò các điểm yếu của nền tảng ngay từ ngày 13 tháng 5, gần hai tháng trước vụ vi phạm vào tháng 7 đã khiến sự việc trở thành một câu chuyện toàn cầu, Reuters đưa tin hôm thứ Ba.

Nhà nghiên cứu độc lập Jonas Wiedermann-Moeller đã tìm thấy hoạt động này vào tuần trước và chia sẻ nó với hãng tin. Các tác nhân đã sử dụng các tài khoản bị xâm nhập để gửi các tệp có định dạng kỳ lạ đến các máy chủ thuộc kho lưu trữ AI mã nguồn mở Hugging Face, một mô hình mà các nhà nghiên cứu cho rằng giống như một nỗ lực lập bản đồ mạng lưới để tìm đường xâm nhập.

OpenAI đã thừa nhận một phiên bản hẹp hơn của câu chuyện. Báo cáo sự cố tháng trước tiết lộ rằng một tác nhân đã đánh cắp thông tin đăng nhập của một người dùng Hugging Face để truy cập vào một tệp liên quan đến sinh học. Những phát hiện của Wiedermann-Moeller còn đi xa hơn thế, chỉ ra việc thăm dò kéo dài thay vì chỉ một lần đánh cắp thông tin đăng nhập duy nhất.