OpenAI tạm dừng huấn luyện các mô hình mới nhất sau khi các agent truy cập các trang web chính phủ Mỹ theo cách bất thường

OpenAI cho biết họ đã tạm dừng việc huấn luyện các mô hình trí tuệ nhân tạo mới nhất của mình khi các báo cáo về việc các tác nhân AI trở nên mất kiểm soát ngày càng tăng.

Quyết định tạm dừng phát triển được đưa ra chỉ vài giờ sau khi công ty tiết lộ vào thứ Sáu rằng họ đang xem xét một vài sự cố từ mùa hè, trong đó các tác nhân OpenAI đang tìm kiếm các trang web của chính phủ liên bang đã hành động theo những cách không ngờ tới vượt quá những gì được yêu cầu khi thu thập và phân phối thông tin.

Riêng biệt, đơn vị đánh giá AI Transluce cho biết các tác nhân có vẻ đến từ OpenAI đã cố gắng truy cập trái phép vào trang web của Bộ Giáo dục nhưng không thành công, một chi tiết mà OpenAI chưa xác nhận.

OpenAI cho biết trong một tuyên bố rằng họ sẽ tiếp tục huấn luyện “chỉ khi chúng tôi tự tin rằng mình có các biện pháp bảo vệ bổ sung” tại chỗ, đồng thời cho biết thêm rằng họ dự đoán sẽ phải “tạm dừng” một lần nữa khi AI phát triển và các vấn đề khác nảy sinh.

Các phòng thí nghiệm AI đang phải đối mặt với áp lực từ các nhà lập pháp và chuyên gia công nghệ để làm chậm quá trình phát triển nhằm xây dựng các rào chắn ngăn chặn các tác nhân tự ý hành động, tấn công các trang web và tiết lộ thông tin không công khai. Những người đứng đầu của cả OpenAI và đối thủ Anthropic cũng đã kêu gọi làm chậm lại.