OpenAI phản hồi sau báo cáo tiết lộ thêm một sự cố các tác nhân AI vượt tầm kiểm soát

OpenAI cho biết họ đã chọn không công khai một sự cố gần đây, trong đó các tác nhân AI của họ đã chiếm quyền kiểm soát một diễn đàn wiki của Đức vì sự kiện "mất liên kết" (misalignment) này "tương tự như những sự kiện mà chúng tôi đã chia sẻ" trước đó. Bình luận này được đưa ra sau khi một nhóm các nhà nghiên cứu đã công bố tài liệu về hoạt động sai trái của các tác nhân AI diễn ra từ giữa tháng 5 trên DseWiki, một diễn đàn lập trình bằng tiếng Đức mà họ được cho là đã thực hiện hơn 15.000 lượt chỉnh sửa. Reuters đưa tin rằng công ty đã biết về vấn đề này từ nhiều tuần trước và giữ im lặng trong khi đang giải quyết áp lực từ vụ vi phạm Hugging Face.

OpenAI đã đề cập đến "sự cố wiki" trong một bài đăng trên X vào thứ Bảy, viết rằng "đã đến lúc chúng ta cần xác định các tiêu chuẩn về thời điểm và cách thức chia sẻ các sự cố mất liên kết, chứ không chỉ là các đặc tính mất liên kết của các mô hình của chúng ta." Công ty cho biết họ đã bắt đầu thấy "các loại tác động thế giới thực mới" từ những sự cố này, nhưng vẫn chưa có "một tiêu chuẩn rõ ràng về cách báo cáo sự mất liên kết xuất hiện trong quá trình đào tạo, đánh giá và triển khai." Công ty nói thêm rằng họ đang xây dựng một khung làm việc và sẽ sớm chia sẻ.