은행 AI 에이전트 도입 현실: 전 UBS CIO가 말하는 규제, 통제 체계, 신뢰의 문제

핵심 메시지

• 금융기관의 약 50%가 이미 에이전트를 쓰고 있지만 대부분은 개념검증 단계이며, 가장 앞선 영역은 소프트웨어 개발이다.
• 기술이 아니라 규제와 통제 체계가 병목이다. 새 기술을 넣으려면 리스크 방법론과 통제 환경, 프로세스를 함께 손봐야 한다는 것이 규제 산업의 조건이다.
• 생산성 주장을 검증하려면 도입 전에 기준선을 측정해 두어야 한다는 조언이 반복됐다.
• 은행이 지켜야 할 최대 자산은 신뢰이며, 사고 하나로 평판이 몇 분 만에 무너질 수 있다는 점이 도입 속도를 결정한다.
• 중요한 산출물은 서로 다른 모델로 교차 검증하고 사람이 최종 확인해야 한다는 것이 실무 원칙으로 제시됐다.

쉽게 이해하기

출연자는 UBS 그룹 최고정보책임자를 지낸 뒤 유럽의 은행들에 자문하고 있는 인물이다. 그는 최근 몇 달 사이 큰 변화가 있었다고 말한다. 개발자를 옆에서 돕는 부조종사 방식에서, 백오피스와 IT, 마케팅까지 여러 기능에 에이전트를 배치하는 자동 조종 방식으로 무게 중심이 옮겨가고 있다는 것이다. 다만 금융기관 절반가량이 에이전트를 쓴다고 해도 대부분은 아직 개념검증 수준이다.

속도가 더딘 이유로는 기술이 아니라 규제 환경이 지목됐다. 클라우드나 블록체인 때도 그랬듯, 새 기술을 도입할 때마다 리스크 방법론과 통제 환경, 업무 절차를 규제에 맞게 다시 맞춰야 한다. 규제 대상이 아닌 소프트웨어 기업에서는 같은 기술이 훨씬 빠르게 자리를 잡고 있고, 유럽은 미국보다 규제가 엄격해 부담이 더 크다고 그는 설명한다.

구체적인 통제 장치도 제시된다. 유럽에서는 AI 사용 사례 목록을 관리하고 위험 등급에 따라 사람의 통제와 검증을 더 촘촘히 넣어야 한다. 원장에 직접 기록하는 권한을 에이전트에 줄 때는 추적성과 감사 로그를 갖춰 사고가 나면 되돌릴 수 있어야 하고, 감사 기능 자체도 에이전트를 활용해 상시 감시 방향으로 바뀌고 있다고 말한다.

생산성 이야기에서는 측정이 강조됐다. 부조종사 방식이 10~30% 개선을 말한다면 지금은 2~4배 산출을 말하는데, 그 주장이 사실인지 확인하려면 도입 전에 코드 품질과 보안, 생산성 지표로 기준선을 잡아 두어야 한다는 것이다. 그는 이런 측정 도구가 이미 오래전부터 쓰여 왔고, 이제는 사람이 아니라 기계가 만든 코드에도 같은 잣대를 적용해야 한다고 말한다.

일자리 이야기도 나왔다. 주니어 소프트웨어 엔지니어 채용 공고가 40%가량 줄었지만, AI 배경을 갖춘 신입을 오히려 더 뽑는 기업도 있다는 관찰이다. 그는 업무 현장에 들어가 문제를 파악하고 자동화로 연결하는 역할의 수요가 커지고 있으며, 병목이 코딩에서 업무 이해와 조직 변화로 옮겨가고 있다고 봤다.

주요 인사이트

• '기술은 준비됐지만 통제 체계가 준비되지 않았다'는 진단은 규제 산업 전반에 적용된다. 도입 논의를 모델 성능이 아니라 감사 가능성과 책임 소재로 옮겨 놓기 때문이다.
• 규제 당국이 걱정하는 지점이 기계적 오류보다 판단의 영역이라는 대목이 흥미롭다. 신용 결정처럼 편향이 개입할 수 있고 소비자에게 직접 불이익을 줄 수 있는 사례가 더 엄격하게 다뤄진다는 설명이다.
• 신뢰를 자산으로 보는 관점은 은행 특유의 계산법을 보여준다. 잘못된 정보가 담긴 보고서 한 건으로도 평판이 흔들린 사례가 언급됐고, 뱅크런 자체가 신뢰 상실에서 비롯된다는 점에서 속도보다 안전을 택하는 이유가 설명된다.
• 자율성의 경계를 위험 등급으로 정한다는 원칙이 실무적이다. 조언하는 에이전트와 실행하는 에이전트 사이의 문턱은 결과가 고객과 사업에 미칠 영향의 분류에서 나오고, 그에 따라 교차 검증과 사람의 확인 수준이 달라진다.
• 에이전트 간 결제가 확산되려면 검증 가능한 디지털 신원이 먼저 갖춰져야 한다는 지적은 종종 빠지는 전제 조건을 짚는다. 상대가 정말 그 사람의 에이전트인지 확인할 수 없다면 대량 거래로 가기 어렵다는 것이다.

자주 묻는 질문

관련 AI 소식