최근 AI 에이전트가 빠르게 발전하면서
이제는 “AI가 상담도 하고, 구매도 도와준다”는 기대가 커지고 있다.
하지만 실제로 사용해보면 생각보다 다른 현실을 마주하게 된다.
나는 최근 두 가지 경험을 통해 그 차이를 직접 느꼈다.
1. 세계에서 유명세를 받고 있는 중국 유명 휴머노이드 로봇 구매 과정에서의 AI 상담
중국 휴머노이드 로봇 구매를 알아보면서
해당 쇼핑몰 홈페이지에 있는 AI 상담 기능을 사용해봤다.
처음에는 꽤 괜찮았다.
- 제품 기본 정보
- 스펙 설명
- 간단한 안내
여기까지는 문제없이 잘 동작했다. 여기까지는 일반적인 온라인 상담 서비스와 크게 다르지 않은 수준이었다.
업무 특성상 부품 구매를 위해 중국 업체와 온라인 상담을 진행하는 경우가 종종 있다.
이 과정에서 느낀 점은, 기존 상담은 어느 정도 사람이 개입되어 있다는 느낌이 분명히 있었다는 것이다.
하지만 AI 상담 에이전트는 그 느낌이 완전히 달랐다.
질문을 조금만 깊게 들어가면
비슷한 답변을 반복하거나, 같은 안내를 계속 돌려주는 구조였다.
마치 같은 자리에서 계속 제자리만 도는 느낌이었다.
하지만 문제는 “진짜 중요한 질문”에서 발생했다.
내가 궁금했던 것은 이런 것들이었다:
- 해외 배송비는 얼마인지
- 배송 기간은 얼마나 걸리는지
- 추가 여분 배터리 포함 제품 해외 배송 가능 여부
- 통관 문제 발생 가능성
- 추가 비용 발생 여부
질문을 잘못한것 같아 질문을 바꿔가며 계속 질문했지만 결과는 단순했다.
“해당 내용은 담당자에게 이메일로 문의해주세요”
AI는 더 이상 답을 하지 못했다.
2. 국내 은행 AI 콜센터 경험
비슷한 경험은 금융 서비스에서도 나타났다.
예를 들어 OO은행의 AI 콜센터를 이용했을 때도 구조는 거의 동일했다.
기본 질문은 빠르게 처리됨
- 계좌 관련 안내
- 단순 상품 설명
- 자주 묻는 질문
이런 정형화된 정보는 매우 빠르게 답변된다.
하지만 조금만 복잡해지면 다시 벽이 생긴다.
예를 들어:
- 대출 조건 비교
- 수수료 예외 조건
- 실제 개인 상황 기반 상담
이번에도 처음 경험과 마찬가지 내가 질문을 잘못한 걸까 하는 생각이 들었다.
그래서 다시 표현을 바꿔가며, 내가 원하는 답을 얻기 위해 계속 질문을 이어갔다.
하지만 결과는 크게 달라지지 않았다.
질문을 조금씩 바꿔가며 여러 번 시도했지만, 결국 돌아오는 답변은 비슷한 구조였다.
결국 계속 같은 자리에서 맴도는 느낌이었다. 이런 질문에서는 결국 반복된다:
“해당 메뉴를 선택해주세요”
“상담원 연결을 도와드리겠습니다” 이 질문만 계속 반복되며 심지어는 상담원 연결도 쉽지 않다.
3. 두 사례에서 공통적으로 느낀 점
쇼핑몰 AI와 은행 AI 모두 구조는 같았다.
정보 안내는 가능
하지만 핵심 판단은 불가능
4. 왜 이런 현상이 발생할까?이유는 단순히 기술 부족이 아니라 구조적인 문제다.
1) 보안 문제
- 금융/거래 정보는 민감 데이터
- AI가 자유롭게 접근할 수 없음
2) 책임 문제
- 잘못된 안내 = 법적 책임 가능
- 그래서 확정 답변을 피함
3) 시스템 분리
- AI는 “안내 역할”
- 실제 결정은 “사람 담당”
5. 결론
이번 경험을 통해 느낀 점은 명확하다.특히 중요한 의사결정이 필요한 영역에서는
여전히 사람의 개입이 필수적이다.
결국 AI 에이전트는 아직 “문제를 해결하는 존재”가 아니라 “문제를 사람에게 넘기는 구조”에 가깝다.
기술의 문제가 아니라, 책임과 보안이 걸린 순간부터 AI는 멈춘다.