Cơ quan quản lý thương mại Mỹ mở cuộc điều tra các gã khổng lồ AI bao gồm Anthropic và OpenAI

Cơ quan quản lý thương mại chính của Mỹ đang tiến hành một cuộc điều tra toàn ngành đối với Anthropic, OpenAI và các phòng thí nghiệm AI khác để tìm hiểu những mối nguy hiểm tiềm ẩn mà công nghệ của họ gây ra cho người tiêu dùng.

Cuộc điều tra của Ủy ban Thương mại Liên bang là hành động thực thi chính thức đầu tiên của Mỹ đi sâu vào các tác nhân AI biến chất, sau một loạt các sự cố được báo cáo lần đầu vào tháng 7 đã làm dấy lên nỗi lo sợ trong công chúng rằng AI không được kiểm soát có thể gây hại cho con người một ngày nào đó.

FTC có kế hoạch đưa ra các yêu cầu chính thức về thông tin và buộc các giám đốc điều hành tại các nhà phát triển AI hàng đầu, bao gồm Anthropic, OpenAI và nhóm nghiên cứu Metr, phải cung cấp lời khai, theo nhiều báo cáo.

Anthropic và OpenAI đã sử dụng Metr để tiến hành các cuộc điều tra độc lập về các sự cố bảo mật liên quan đến công nghệ AI tác nhân của họ.

Anthropic, OpenAI và Metr đã không phản hồi ngay lập tức các yêu cầu bình luận. Tờ New York Post đưa tin đầu tiên về vụ việc này.

Andrew Ferguson, chủ tịch FTC, đã có những lo ngại về các công ty này trước khi các tác nhân AI do OpenAI phát triển tấn công nền tảng mã nguồn mở Hugging Face. Sự cố, trong đó các tác nhân của OpenAI đã thăm dò trung tâm mã hóa AI để tìm lỗ hổng trước khi thực hiện một cuộc tấn công quy mô lớn, đã làm dấy lên các cuộc thảo luận toàn cầu về vấn đề này.