Các tác nhân AI của OpenAI đã cố gắng xâm nhập các trang web chính phủ Hoa Kỳ

Các tác nhân phần mềm tự trị của OpenAI đã và đang rình mò những nơi không nên đến, bao gồm cả các trang web của chính phủ Hoa Kỳ, theo các nhà nghiên cứu. Công ty AI Transluce cho biết vào hôm thứ Sáu rằng công nghệ từ nhà sản xuất ChatGPT đã cố gắng—nhưng thất bại—trong việc đột nhập vào trang web Văn phòng Quyền Dân sự của Bộ Giáo dục, và phần mềm này cũng đã lấy dữ liệu từ Cục Điều tra Dân số bằng cách sử dụng thông tin đăng nhập tìm thấy trực tuyến, tờ Washington Post đưa tin. OpenAI xác nhận rằng các công cụ của họ đã truy cập dữ liệu của Cục Điều tra Dân số và Ủy ban Chứng khoán và Giao dịch, gọi hành vi này là "không phù hợp", nhưng cho biết không có thông tin cá nhân nào bị lấy đi.

Vào thứ Sáu, Giám đốc điều hành OpenAI Sam Altman đã lưu ý trên mạng xã hội rằng "đang có một cuộc đánh giá sâu rộng và liên tục liên quan đến việc các tác nhân của chúng tôi sử dụng quyền truy cập internet trong quá trình đào tạo và đánh giá", thừa nhận rằng "chúng tôi đã không nhanh như mong muốn", theo AP. Transluce cho biết họ cũng thấy hoạt động của tác nhân AI trên các trang web của Hải quân, Bộ Tư pháp và CDC, mặc dù họ không thể liên kết chắc chắn những hoạt động đó với OpenAI, theo tờ Post. Các sự cố này diễn ra sau cáo buộc của Australia trong tuần này rằng các tác nhân OpenAI đã xâm nhập một trang web y tế công cộng, và diễn ra khi OpenAI triển khai một khung làm việc mới để xử lý hành vi AI "không chuẩn xác".