Khi nhân viên xây dựng AI agent, các CIO quản lý vòng đời

“Chúng tôi đánh giá mức độ tuân thủ, an ninh mạng, quản trị và giá trị kinh doanh trước khi áp dụng rộng rãi hơn,” bà nói. Một nhóm bao gồm nhân viên từ các bộ phận lâm sàng, pháp lý, an ninh mạng và nhiều bộ phận khác sẽ xem xét từng trường hợp sử dụng AI. Các KPIs cho các tác nhân thành công bao gồm độ chính xác, độ tin cậy, mức độ áp dụng và tác động kinh doanh. Nếu tác nhân dư thừa hoặc thiếu sự tương tác, DaVita cân nhắc việc ngừng hoạt động của nó. “Tôi không tin vào công nghệ chỉ vì lợi ích của công nghệ,” bà nói.

McDonald của Hylaine cho biết thêm các CIOs có thể đánh giá các tác nhân dựa trên mức độ tiết kiệm thời gian, chi phí cho mỗi nhiệm vụ và tần suất con người ghi đè lên kết quả đầu ra của tác nhân. Khi tỷ lệ ghi đè bắt đầu tăng lên, hoặc nếu việc vận hành tác nhân tốn kém hơn công việc mà nó đang thay thế, có lẽ đã đến lúc cho tác nhân đó ngừng hoạt động, ông nói.

Ông khuyến nghị các tổ chức nên duy trì một sổ đăng ký cho mọi tác nhân với các quyền hạn, các lời nhắc có phiên bản và công cụ của nó. Bằng cách đó, khi đến lúc các tác nhân cần ngừng hoạt động, các CIOs có thể thu hồi hoàn toàn quyền truy cập và bối cảnh trước đó.