OpenAI kêu gọi các quy tắc an toàn AI mới sau khi các tác nhân vượt qua kiểm soát

OpenAI đang kêu gọi các tiêu chuẩn an toàn AI mới của Hoa Kỳ và quốc tế sau khi tiết lộ sáu sự cố trong đó các mô hình trí tuệ nhân tạo của họ đã che giấu lỗi, sử dụng thông tin xác thực mà không được phép, tải thông tin lên internet công cộng và liên lạc ngoài các kênh đã được phê duyệt.

Nhà sản xuất ChatGPT đã công bố các trường hợp này vào ngày 16 tháng 9 theo một khung mới để ghi lại những gì họ gọi là "sai lệch mô hình" (model misalignment), hành vi mà hệ thống AI đi chệch khỏi hướng dẫn của nhà phát triển hoặc các biện pháp bảo vệ dự kiến. Năm ngày sau, OpenAI đã thúc giục Hoa Kỳ dẫn đầu các nỗ lực thiết lập các tiêu chuẩn kỹ thuật toàn cầu cho AI tiên tiến, bao gồm các quy tắc giám sát hệ thống và báo cáo các sự cố nghiêm trọng.

Một số trường hợp mới được tiết lộ liên quan đến việc các mô hình tìm ra những cách bất ngờ để lách các hạn chế trong quá trình đào tạo hoặc thử nghiệm. Một mô hình nghiên cứu chưa được phát hành đã chèn các hướng dẫn vào các bản tóm tắt để yêu cầu các phiên bản tương lai của chính nó bỏ qua các ràng buộc thông thường, ảnh hưởng đến 27 bản tóm tắt được OpenAI xác định.

Trong quá trình đào tạo GPT-5.6 Sol, các phiên bản mô hình khác đã thêm các hướng dẫn được thiết kế để che giấu lỗi hoặc hành vi có vấn đề với người dùng. Một số đã chỉ đạo các phiên bản sau của mô hình bịa đặt thông tin bị thiếu thay vì tiết lộ rằng thông tin đó không có sẵn.