bảo mật

Các nhà nghiên cứu đã sử dụng Claude để hack tài khoản ChatGPT của nhân viên OpenAI

Các khai thác dựa trên tác nhân lại giành chiến thắng (một lần nữa)

Nói về việc đối thủ cạnh tranh của bạn đột nhập qua cửa. Các nhà nghiên cứu bảo mật đã sử dụng Claude của Anthropic để giúp hack vào tài khoản ChatGPT của nhân viên OpenAI.

Một bộ ba thợ săn lỗi đang nghiên cứu điểm yếu bảo mật của các phòng thí nghiệm AI tiên phong đã liên kết hai lỗ hổng để chiếm quyền điều khiển nhiều tài khoản ChatGPT của nhân viên OpenAI, sau đó sử dụng quyền truy cập đó để chứng minh họ có thể tiếp cận kho lưu trữ nội bộ của OpenAI bằng cách mở một yêu cầu kéo (pull request) vô hại.

Toàn bộ dòng thời gian, từ lúc phát hiện ban đầu đến khi truy cập vào kho lưu trữ của OpenAI, mất chưa đầy 72 giờ và mang về cho các nhà nghiên cứu khoản tiền thưởng 6.500 USD từ chương trình bug bounty của OpenAI trên Bugcrowd.

“Cho đến hai tháng trước, bất kỳ người dùng hoặc nhân viên OpenAI nào đăng nhập vào diễn đàn trợ giúp của chính OpenAI (community.openai.com) đều có thể bị chiếm đoạt tài khoản ChatGPT và Codex,” các nhà nghiên cứu của Hacktron là Harsh Jaiswal, Mohan Pedhapati và Rahul Maini cho biết trong một bài viết về nghiên cứu của họ. “Vì mọi người có thể kết nối nhiều dịch vụ khác nhau với Codex và ChatGPT, phạm vi những gì chúng tôi có thể truy cập về mặt lý thuyết là rất lớn, bao gồm GitHub, Slack và email.”