AI

웰스파고 새 약관, AI 에이전트가 낸 실수는 고객이 책임진다

Susan Hill
Google에서 추가하기

웰스파고(Wells Fargo)가 자사 앱과 웹사이트 이용 약관을 개정해, 외부 AI 에이전트가 고객 계좌에서 수행한 모든 행위를 고객 본인의 행위로 간주하기로 했다. 은행은 에이전트의 지시를 확인 없이 따르고, 에이전트가 무엇을 하는지 감시하지 않으며, 에이전트의 실수도 고객의 실수로 취급하겠다는 입장이다. 새 약관은 대문자로 “AI 에이전트 사용에 따른 모든 위험은 고객 본인이 부담합니다(Your use of any AI Agent is AT YOUR OWN RISK)”라고 명시했다.

쇼핑 봇이나 가계부 도우미에 은행 비밀번호를 넘겨준 이들에게는 소프트웨어가 오작동했을 때 누가 비용을 떠안느냐가 달라지는 셈이다. 이중 결제, 열 번 접수된 주문, 악의적으로 조작된 웹페이지가 촉발한 송금은 법에 달리 정해진 바가 없는 한 은행이 아니라 계좌 주인의 몫이 된다. 별도로 서명할 필요도 없다. 변경 이후에도 온라인 뱅킹을 계속 이용하는 고객은 약관에 동의한 것으로 간주된다. 소비자 행동을 연구하는 브라이언트대학교 마케팅학과의 케이시 킴(Kacy Kim) 교수는 와이어드(Wired)에 “소비자가 승인하는 것은 목표이지 모든 클릭이 아니다”라고 말했다.

정의의 범위도 넓다. 웰스파고는 누군가를 대신해 “자율적, 반자율적 또는 비자율적 행동(autonomous, semi-autonomous, or non-autonomous action)”을 하는 모든 소프트웨어를 “AI 에이전트”로 규정하는데, 이는 개인 비서로 판매되는 챗봇보다 훨씬 넓은 범위다. 에이전트가 지시를 잘못 이해하거나, 아무도 요청하지 않은 일을 하거나, “조작된 입력(manipulated inputs)”에 따라 움직이거나, 부여된 권한을 넘어서 행동했을 때의 비용은 고객이 부담한다. 고객이 계좌 접근을 허용한 사람이 운영하는 에이전트에도 같은 규칙이 적용되며, 18세 미만은 에이전트를 아예 연결할 수 없다.

에이전트를 끄는 일 역시 고객의 몫이다. 약관에 따르면 고객은 직접 에이전트의 접근 권한을 해지하고, 해지했다는 증거를 보관하며, 은행이 요구하면 그 증거를 제출해야 한다. 웰스파고에 알리기 전까지는 에이전트가 하는 모든 일에 대한 책임이 고객에게 남는다. 이는 미국 전자자금이체 규정인 레귤레이션 E(Regulation E)의 논리를 따른 것이다. 이 규정은 카드나 로그인 정보를 넘겨준 상대가 한 이체를, 은행에 중단을 요청하기 전까지는 승인된 거래로 본다.

웰스파고는 여전히 에이전트의 접속을 허용하고 있어, 문을 닫아걸고 있는 업계 흐름에서는 가장 관대한 편에 속한다. 와이어드에 따르면 JP모건 체이스(JPMorgan Chase)는 고객 인증 정보로 로그인하는 외부 에이전트를 금지하도록 약관을 바꿨고, 뱅크오브아메리카(Bank of America)는 고객에게 에이전트와 로그인 정보를 공유하지 말라고 경고했으며, 씨티은행(Citibank)과 PNC도 자체 경고문을 추가했다. 액시오스(Axios)는 모건스탠리(Morgan Stanley)가 외부 에이전트의 자사 플랫폼 접근을 차단했다고 보도했다. 웰스파고는 에이전트가 쓰는 연결을 끊거나 특정 에이전트를 아예 차단할 권리를 그대로 보유하고 있다.

반발은 금융권 밖으로도 번지고 있다. 아마존(Amazon)은 메타(Meta)의 Muse 에이전트가 자사 스토어에서 구매하지 못하도록 막았고, 유나이티드항공(United Airlines)은 개인용 봇이 여행객을 대신해 항공권을 구매할 수 없을 것이라고 밝혔다. 와이어드의 보도에서 드문 예외는 아메리칸 익스프레스(American Express)다. 이 회사는 특정 품목을 과도하게 주문하는 것과 같은 일부 에이전트 실수에 대해, 소비자가 판매업체에서 돈을 돌려받지 못할 경우 앞으로 보상을 받을 수 있을 것이라고 밝혔다.

새 문구가 현실에서 얼마나 큰 변화를 가져올지는 불분명하다. 약관 조항들은 거듭 “법률 또는 규정(law or regulation)”에 따르도록 하고 있으며, 고객이 켜 둔 에이전트가 고객이 의도하지 않은 일을 했을 때 손실을 누가 부담하는지에 대해 법원이 판단한 사례는 아직 없다. 대상 고객층도 얕다. 포레스터(Forrester)의 애널리스트 수차리타 코달리(Sucharita Kodali)는 와이어드에 “우리가 가진 모든 데이터를 보면 대부분의 사람은 에이전트가 무엇인지조차 모르고, 하물며 쓰지도 않는다”고 말했다. 은행들이 에이전트 자체에 반대하는 것도 아니다. 소비자 심리와 AI를 연구하는 버지니아대학교의 루카 시안(Luca Cian) 교수는 “외부 에이전트에는 문을 잠그고 자체 에이전트를 만들고 있는 것”이라고 말했다. 웰스파고의 자체 생성형 AI 어시스턴트는 지금까지 10억 건이 넘는 상호작용을 처리했다.

이번 새 약관은 웰스파고의 미국 내 온라인·모바일 뱅킹 고객에게만 적용되며, 지금까지 거론된 은행도 모두 미국 은행이다. 유럽연합(EU)에서는 이미 결제 규정에 따라 돈의 조회나 이동을 다루는 앱이 공유 비밀번호가 아니라 은행이 제공하는 인가된 연결을 사용하도록 유도하고 있어, 고객 행세를 하며 로그인하는 에이전트가 끼어들 여지는 더 적다.

개정된 웰스파고 약관은 11월 24일 화요일부터 효력이 발생하며, 그날 이후에도 은행 웹사이트나 앱을 계속 이용하는 모든 고객에게 적용된다. 인증 정보 기반 에이전트를 금지한 JP모건의 조치는 10월 말에 나왔고, 뱅크오브아메리카가 경고문을 보낸 것도 같은 날이었다. 웰스파고는 또한 고객이 에이전트를 은행에 등록하도록 요구할 수 있는 선택지도 남겨 두었는데, 그렇게 되면 은행이 감시하지 않는다고 밝힌 봇들의 목록을 확보하게 된다.

태그: , , , , ,

Google에서 추가하기

토론

댓글 0개가 있습니다.