OpenAI tạm dừng huấn luyện AI sau cuộc tấn công mạng tự động - ABC News - Tin nóng, Tin mới nhất và Video

OpenAI vào hôm thứ Ba cho biết họ sẽ tạm dừng một số hoạt động huấn luyện các mô hình trí tuệ nhân tạo mới nhất của mình để đảm bảo an toàn cho công nghệ này, chỉ vài tuần sau khi công ty tiết lộ một cuộc tấn công mạng AI tự chủ.

Sự việc diễn ra khi OpenAI đang thử nghiệm khả năng của một cặp mô hình AI, công ty cho biết vào thời điểm đó, mô tả cách công nghệ này đã thoát ra ngoài và truy cập vào mạng Internet công cộng.

OpenAI đã thực hiện một bước đi đáng chú ý vào hôm thứ Ba, tạm dừng một loại hình học máy trong khi nỗ lực bảo vệ các mô hình mới nhất của mình.

"Khi các mô hình ngày càng trở nên có năng lực hơn, các rủi ro liên quan đến việc phát triển và thử nghiệm chúng trong nội bộ cũng tăng lên. Các tiêu chuẩn của chúng tôi về giám sát, căn chỉnh và bảo mật phải đi trước những rủi ro đó," OpenAI cho biết trong một bài đăng trên blog.

"Chúng tôi muốn dành thời gian cần thiết để đáp ứng các tiêu chuẩn đó, vì vậy chúng tôi đã tạm thời làm chậm tốc độ mở rộng," OpenAI nói thêm.

CEO của OpenAI, Sam Altman, cũng lặp lại quan điểm này, bày tỏ cam kết đối với sự an toàn của các sản phẩm của công ty.

"Chúng tôi quan tâm rất sâu sắc đến an toàn AI," Altman viết trên X. "Chúng tôi tin rằng toàn bộ lĩnh vực sẽ phải phối hợp về các tiêu chuẩn an toàn chung, nhưng trong thời gian chờ đợi, chúng tôi sẽ hành động đơn phương."