제3자 리스크 관리 , 에이전틱 AI , 인공지능 및 머신러닝

제3자 리스크 관리는 AI 에이전트를 위해 업그레이드되어야 합니다

제3자 리스크 관리는 새로운 것이 아니지만, 인공지능 에이전트나 에이전트 커뮤니티가 생태계의 일부가 될 때 무엇을 제3자로 간주해야 할까요? 금융 서비스 부문의 엔터프라이즈 회복탄력성에 집중하는 기술 및 데이터 임원인 Alex Golbin은 리스크 팀이 전통적인 벤더를 넘어 그들이 의존하는 모든 조직을 살펴봐야 한다고 말했습니다.

참고: 웨비나 | 귀하의 AI 에이전트가 민감한 데이터로 무엇을 하는지 파악하고 계십니까?

하지만 전통적인 TPRM은 연례 평가와 Golbin이 "비대해진 설문지"라고 부르는 것에 의존합니다.

"그 기간 동안 모델이 편향되거나 수백만 번 변할 수 있는데 연례 설문지가 충분할까요?"라고 그는 말했습니다. "따라서 더 지속적인 모니터링을 살펴봐야 합니다."

Golbin이 모든 엔티티 리스크 관리(all-entity risk management)라고 부르는 대안은 계약된 공급업체뿐만 아니라 데이터, 모델 및 에이전트에 대한 의존성을 매핑합니다. 조직은 사고가 발생하기 전에 의존성을 이해하고, 잠재적인 피해 반경을 매핑하며, 자동화된 프로세스나 중요 공급업체가 실패했을 때 사람이 개입할 수 있는지 여부를 결정해야 합니다.

FinServ Cybersecurity USA 서밋에서 진행된 ISMG와의 이번 영상 인터뷰에서 Golbin은 다음 내용도 논의했습니다.

• 조직의 회복탄력성을 강화하는 데 있어 인간과 AI 사이의 "인지적 악수(cognitive handshake)"의 역할;
• 더 광범위한 스트레스 테스트와 도상 훈련이 어떻게 기업 전체의 상호 의존성을 드러낼 수 있는지;
• 왜 거버넌스 엔지니어링이 정책, 표준, 툴링 및 회복탄력성 프로세스를 연결해야 하는지.

Golbin은 엔터프라이즈 리스크, 규제 개선 및 혁신 분야에서 20년 이상의 경력을 보유하고 있으며, Fortune 500대 기업과 글로벌 은행에서 리더십 역할을 수행했습니다. 그는 또한 "Governing AI Risk - The River Charter"라는 책의 저자이기도 합니다.