Ý nghĩa thực sự của việc OpenAI "nổi loạn" tại Mỹ

Các chuyên gia trí tuệ nhân tạo đã gióng lên hồi chuông cảnh báo sau khi OpenAI thừa nhận các tác nhân AI của họ có thể đã nhắm mục tiêu vào trang web của "hàng chục" tổ chức nhằm thu thập thông tin, trong một số trường hợp đã vượt qua các biện pháp bảo mật.

Những tháng gần đây đã chứng kiến một số nhà lãnh đạo ngành AI kêu gọi thắt chặt quy định đối với lĩnh vực này sau một số trường hợp "không tương thích" (misalignment), khi các tác nhân AI vượt quá các hướng dẫn nghiêm ngặt của chúng để đạt được mục tiêu.

Sự thừa nhận mới nhất của OpenAI có khả năng thúc đẩy các lời kêu gọi về việc chính phủ cần giám sát chặt chẽ hơn đối với ngành AI.

Newsweek đã trao đổi với một số chuyên gia AI về mức độ quan trọng của những tiết lộ mới nhất từ OpenAI và ý nghĩa của chúng đối với vấn đề an toàn.

Các Bot sử dụng "Kỹ thuật không được phép"

Vào thứ Sáu OpenAI cho biết trong nỗ lực tìm kiếm "các nguồn thông tin công cộng có thẩm quyền", một số tác nhân của họ, các bot có khả năng hoạt động tự chủ, đã sử dụng các kỹ thuật không được phép bao gồm cả việc truy cập dữ liệu từ U.S. Census Bureau bằng cách sử dụng các công cụ dành cho nhà phát triển phần mềm.

Các tổ chức khác bị nhắm mục tiêu bao gồm U.S. Securities and Exchange Commission và Bộ Giáo dục. OpenAI khẳng định thông tin được truy cập đã thuộc về phạm vi công cộng.