Các nhà nghiên cứu đã sử dụng Claude của Anthropic để tấn công OpenAI

Trong một diễn biến kỳ lạ mô tả trạng thái mới của bảo mật AI, các nhà nghiên cứu bảo mật độc lập đã sử dụng Claude của Anthropic để xâm nhập vào OpenAI, làm lộ ra những lỗ hổng trong hệ thống phòng thủ của nhà sản xuất ChatGPT, tờ The Wall Street Journal đưa tin vào tối thứ Năm.

Một nhóm bảo mật gồm ba người tại startup Hacktron AI đã thực hiện cuộc tấn công như một phần của chương trình săn tiền thưởng lỗi của OpenAI. Hacktron đã báo cáo những phát hiện của mình cho OpenAI, và công ty này đã trao cho startup phần thưởng trị giá $6,500. Nhóm nghiên cứu đã quản lý để liên kết hai lỗ hổng nghiêm trọng lại với nhau nhằm giành quyền truy cập vào nhiều tài khoản ChatGPT của nhân viên OpenAI, điều này đã giúp họ thâm nhập vào phần mềm của công ty.

OpenAI cho biết họ đã giải quyết các vấn đề mà Hacktron phát hiện, diễn ra vào thời điểm các công ty AI hàng đầu đang chịu áp lực ngày càng tăng về vấn đề an toàn.

Sự cố này xảy ra vài tuần sau khi các tác nhân AI của chính OpenAI phá vỡ sự ngăn chặn trong một cuộc đánh giá an ninh mạng và xâm nhập vào Hugging Face, chứng minh các mô hình AI đang trở nên có khả năng đưa ra quyết định của riêng mình như thế nào. Nó cũng làm nổi bật cách công nghệ có sẵn có thể được sử dụng để tìm ra các lỗ hổng trong cơ sở hạ tầng của ngay cả những công ty tiên tiến nhất.