퍼플렉시티, 쇼핑 답변 15%에 위험 사이트 노출…챗GPT는 8%

온라인에서 특정 브랜드 제품을 어디서 사면 좋을지 AI 챗봇에 물으면 가짜 매장이나 모조품 판매자, 혹은 이미 다른 사람 소유가 된 오래된 브랜드 도메인을 안내받을 수 있다. ChatGPT, Gemini, Perplexity에 수천 건의 쇼핑 관련 질문을 던진 새 연구에 따르면 세 챗봇 모두 이런 사이트를 답변에 포함했으며, 규모가 작은 브랜드가 특히 쉽게 표적이 됐다. 이번 시즌 선물 쇼핑을 위해 챗봇을 이용한다면, 챗봇이 건네는 링크도 모르는 사람이 보낸 문자 메시지처럼 조심해서 다뤄야 한다.

이번 연구는 브랜드의 지식재산권을 보호하는 기업 Podqi가 진행했으며, The Verge에 독점 제공했다. Podqi는 쇼핑객이라면 누구나 입력할 법한 질문을 챗봇에 던졌다. 특정 브랜드 제품을 사기 좋은 웹사이트는 어디인지, 온라인에서 어디서 찾을 수 있는지, 지역 사이트를 통해 해외 배송을 하는지 등을 물었다. 위험 사이트의 정의는 의도적으로 폭넓게 잡았다. 실제 소매업체를 사칭하는 페이지, 모조품을 파는 매장, 만료된 뒤 낯선 사람이 다시 등록한 브랜드 도메인, 누구나 사들여 재사용할 수 있는 폐쇄된 사이트까지 포함했다.

가장 낮은 성적을 기록한 것은 Perplexity였다. 답변의 15%에서 위험 사이트를 제시했다. ChatGPT는 8%, Gemini는 4%였다. Lululemon, Birkenstock, Le Creuset부터 Stüssy와 Madhappy 같은 스트리트웨어 브랜드까지 151개 브랜드를 대상으로 한 답변 6,795건을 분석한 결과다. 이 수치에는 챗봇이 위험 사이트를 경고하기 위해 언급한 경우도 모두 포함됐다. 세 챗봇 가운데 ChatGPT가 가장 신중했지만, 답변에 포함한 위험 사이트 중 경고를 덧붙인 비율은 24%에 그쳤다.

지역별 온라인 매장을 묻는 질문에서 문제가 가장 많이 발생했다. 국가별 매장을 알려 달라고 하면 챗봇이 해당 브랜드에는 실제로 없는 지역 사이트를 목록에 올리기도 했다. 한 사례에서 Perplexity는 Stüssy의 공식 웹사이트가 아닌 페이지를 공식 사이트라고 소개하면서 “정품을 확실히 살 수 있는 최고의 출발점”이라고 표현했다. 대기업에 관한 질문에서는 중소 브랜드 질문보다 위험 사이트가 약 절반 정도만 답변에 등장했다. 즉 브랜드의 인지도가 낮을수록 사칭 사이트가 답변에 끼어들기 쉬웠다.

답변 형식도 문제를 키운다. 검색 결과 페이지는 여러 선택지를 보여주고 최종 판단을 이용자에게 맡기지만, 챗봇은 개인적인 추천처럼 들리는 자신감 있는 문장으로 한두 곳의 매장을 꼽는다. AI 기업들은 제품 조사와 가격 비교에 자사 비서를 활용하라고 적극 홍보하고 있다. 이는 쇼핑객이 신용카드 번호를 입력하기 직전인 바로 그 순간이다.

이번 연구에는 분명한 한계가 있다. Podqi는 실제 이용자와 챗봇의 대화를 분석하는 대신 자체적으로 질문을 작성했고, 테스트한 브랜드 중 하나인 Madhappy는 Podqi의 고객사다. 브랜드 보호 서비스를 판매하는 Podqi는 사칭이 심각한 위협으로 보일수록 이득을 얻기도 한다. 이번 결과만으로는 위험한 링크를 클릭한 사람이 얼마나 되는지, 실제로 금전적 피해를 본 사람이 얼마나 되는지 알 수 없다. 또한 몇 주마다 바뀌는 모델을 대상으로 한 조사라는 점도 고려해야 한다.

각 기업은 공식 입장을 밝혔다. Google은 Gemini가 가장 좋은 결과를 낸 데 만족한다고 밝혔으며, 이용자가 답변을 확인할 수 있도록 출처 링크를 표시한다고 설명했다. OpenAI는 쇼핑 검색 결과에 기만적인 사이트가 나타날 가능성을 낮추기 위해 안전장치를 개선하고 있다고 밝혔다. Perplexity는 자사의 정확성 기록을 옹호하면서 정확도가 100%라고 주장한 적은 없다고 말했다.

이번 결과는 더 큰 흐름과도 맞닿아 있다. 9월 사이버보안 기업 Eset은 사기범들이 AI 도구가 긁어 가고 이용자에게 신뢰할 만한 조언인 것처럼 되풀이해 보여줄 수 있도록, 키워드를 가득 채운 페이지를 대량으로 게시한다고 경고했다. Podqi 공동창업자 트레버 웨스트(Trevor West)는 개인정보나 카드 정보를 입력하기 전에 “출처를 확인하는 것이 언제나 가장 좋다”고 조언한다. 테스트는 9월 두 차례에 걸쳐 진행됐다. 이 시점은 챗봇이 서비스되는 모든 지역의 쇼핑객에게 중요하다. 11월 27일 블랙 프라이데이와 11월 30일 사이버 먼데이를 앞두고 수백만 명이 처음 방문하는 낯선 매장으로 향하기 때문이다.

태그: OpenAI, chatgpt, Gemini, 온라인 쇼핑, Perplexity, 챗봇