Các chuyên gia bảo mật AI cho biết họ đã sử dụng Claude để hack ChatGPT

Các nhà nghiên cứu bảo mật phần mềm đã sử dụng nền tảng Claude AI của Anthropic để tấn công công cụ ChatGPT của OpenAI, làm tăng thêm những lo ngại ngày càng tăng về lỗ hổng của các mô hình ngôn ngữ lớn hàng đầu trước các cuộc tấn công mạng. 

Các nhà nghiên cứu từ Hacktron AI, một nền tảng bảo mật AI độc lập chuyên kiểm tra mã phần mềm, đã tiết lộ vụ xâm nhập trong một bài đăng trên blog vào Chủ nhật. Họ cho biết đã sử dụng Claude để giành quyền truy cập vào tài khoản ChatGPT của một nhân viên OpenAI, cho phép Hacktron AI lấy được dữ liệu quan trọng về nơi lưu trữ và quản lý mã nguồn. Họ cũng đã truy cập vào một diễn đàn thảo luận của OpenAI.

"Toàn bộ mốc thời gian từ khi phát hiện ban đầu đến khi truy cập được vào kho lưu trữ của OpenAI diễn ra trong vòng chưa đầy 72 giờ," Hacktron AI cho biết trong bài đăng.

Nhóm Hacktron AI đã báo cáo vụ xâm nhập cho OpenAI, đơn vị đã phản hồi nhanh chóng và trả cho các nhà nghiên cứu khoản tiền thưởng 6.500 USD, Hacktron AI cho biết trong bài đăng trên blog của mình. 

"Chúng tôi đã ngay lập tức báo cáo lỗ hổng ban đầu cho OpenAI và Discourse và làm việc với họ để phối hợp vá lỗi. Chúng tôi đánh giá cao sự chú ý đến từng chi tiết và việc giải quyết nhanh chóng vấn đề này của họ," các nhà nghiên cứu viết.