OpenAI đang thêm watermark vô hình vào văn bản do AI tạo ra

OpenAI đang thêm một hình mờ vô hình vào văn bản được tạo bởi ChatGPT và đại lý lập trình Codex, giúp máy móc dễ dàng nhận diện hơn rằng văn bản đó được viết bởi AI. Được công bố vào thứ Hai, thay đổi này sẽ là bắt buộc tại EU, và hiện đang là tùy chọn đối với khách hàng API trên toàn thế giới.

Các mô hình ngôn ngữ lớn hoạt động bằng cách tạo văn bản từng từ một, xác định từ tiếp theo sẽ là gì bằng cách xem xét những từ đứng trước nó. Hệ thống tạo hình mờ văn bản mới của OpenAI là textGrain tác động đến điều này bằng cách thay đổi cách các mô hình AI chọn từ, yêu cầu chúng xem xét cả văn bản đứng trước và các giá trị giả ngẫu nhiên được xác định bởi một khóa bí mật. 

Điều này để lại một tín hiệu thống kê trong nội dung được tạo ra, cho phép các máy phát hiện AI xác định các giá trị giả ngẫu nhiên này là gì và thiết lập xem văn bản có phụ thuộc vào chúng hay không. Nếu có, nó sẽ bị gắn thẻ là do AI tạo ra.

Hình mờ văn bản của OpenAI sẽ được triển khai trên ChatGPT và Codex tại EU trong vài tuần tới. Nó cũng có sẵn cho các khách hàng API trên toàn cầu thông qua một số mô hình được chọn, mặc dù họ sẽ phải chọn tham gia vì nó bị tắt theo mặc định.

Tuy nhiên, công cụ phát hiện hình mờ văn bản của OpenAI sẽ chỉ có sẵn cho các nhà nghiên cứu và chuyên gia đăng ký truy cập. OpenAI cho biết hạn chế này một phần là do những hạn chế trong tính năng tạo hình mờ văn bản của họ, đặc biệt là liên quan đến các đoạn văn ngắn hơn. Trong thử nghiệm, công cụ này chỉ bắt được hình mờ trong 80 phần trăm các đoạn văn 200 từ do AI tạo ra, với tỷ lệ phát hiện thậm chí còn thấp hơn khi văn bản đó nói về các chủ đề có từ vựng cứng nhắc như toán học.