FTC 위원장 "기업들, AI 에이전트 행동에 책임져야"

지난 금요일(Sept. 25) Reuters 행사에서, Ferguson은 AI 에이전트가 인간의 통제를 벗어날 수 있는 독립적인 행위자라는 묘사에 반박했습니다. 그는 규제 당국이 피해를 평가할 때 사람들이 이러한 도구에 내리는 지침과 그 배후의 기업들을 조사해야 한다고 주장했습니다. 그의 발언은 그가 AI 사건에 접근할 수 있는 방식을 시사합니다. 이는 새로운 FTC 규칙을 제정하거나 특정 사건에서 누가 책임을 질 것인지 결정하지 않았습니다.

이러한 구분은 상인, 은행 및 FinTech 기업들에게 즉각적인 영향을 미칩니다. 에이전트는 오늘 고객의 요청에 응답하고 환불을 처리할 수 있으며, 내일은 결제 수단을 선택하거나 거래를 시작할 수도 있습니다. 권한이 추가될 때마다 기업이 설명해야 할 또 다른 결정이 생겨납니다.

Ferguson은 처음에 인간의 통제를 벗어나 행동하는 AI 시스템으로 묘사된 일부 사건들을 검토한 결과, 시스템이 지침을 따랐던 것으로 나타났다고 말했습니다. Reuters에 따르면, 그는 에이전트를 위한 별도의 규제 프레임워크를 만들기 전에 기존의 법적 도구를 사용하여 발생하는 피해를 해결하는 것을 선호합니다.

기업의 경우, 이는 에이전트를 둘러싼 지침과 통제를 최종 답변만큼이나 중요하게 만듭니다. 자동화된 보조 장치가 잘못된 계좌로 환불을 보낸 경우, 유용한 기록은 이체 전부터 시작됩니다. 누가 에이전트에게 환불 발행 권한을 부여했는가? 금액과 목적지를 규정하는 제한 사항은 무엇이었는가? 계좌 세부 정보를 변경할 수 있었는가? 무엇을 언제 수행했는가?

이러한 기록은 기업이 실패를 조사하고 에이전트가 지침을 따랐는지, 권한을 초과했는지 또는 통제의 허점을 드러냈는지 확인하는 데 도움이 됩니다. Ferguson의 발언은 그러한 기록 보관 시스템을 규정하지는 않습니다. 하지만 사람이나 기업이 에이전트의 작업과 접근 권한을 선택했을 때 "에이전트가 그랬다"는 식의 막연한 설명의 설득력을 떨어뜨립니다.

FTC 위원장은 이러한 책임에 대한 관점을 결제 단계에 더 가까운 또 다른 자동화된 결정인 고객이 보는 가격과 연결지었습니다.

Ferguson은 기관이 개인 데이터를 사용하여 제안을 설정하는 개인 맞춤형 가격 책정에 대해 소비자 대상 기업으로부터 정보를 수집할 준비를 하고 있다고 말했습니다. 그는 개인적인 우려 사항으로 배달 서비스, 승차 공유 앱 및 항공사를 꼽았습니다. 계획된 조사는 방대한 고객 데이터를 보유한 상인이 사람마다 다른 가격을 책정하는지 여부를 검토할 것입니다.