범용 LLM 금융 조언의 한계와 해법: 인튜이트가 검증된 실제 결과로 모델을 학습시킨 이유

핵심 메시지

• 프런티어 LLM은 돈에 관해 '읽은' 지식만 갖고 있어, 사업 데이터를 다 넣어도 위험한 조언을 자신 있게 내놓는다
• 발표자는 이를 '유창한 허풍(fluent bluff)'이라 부르며, 가정을 조금 바꿀 때마다 추천이 뒤집히는 자신의 경험을 근거로 들었다
• 인튜이트 연구에서 프런티어 모델 조언의 절반 이상이 '신규 고객을 확보하라'거나 '매출을 늘려라'로 수렴했다
• 실제 결과에 근거를 둔 중간 크기의 저렴한 모델이 정면 비교에서 프런티어 모델을 앞섰다
• 핵심 경쟁력은 모델 접근권이 아니라, 유사한 상황과 그 결과를 확인할 수 있는 자체 데이터다

쉽게 이해하기

인튜이트에서 금융 인텔리전스·조언 시스템을 이끄는 프로덕트 매니저 우디 멘케스는 청중에게 손을 들어 보라고 청했다. LLM으로 금융 조언을 받아본 사람은 거의 전부였지만, 그 답을 믿고 실제로 따랐느냐는 두 번째 질문에서 손이 대부분 내려갔다. 그는 자신도 부동산과 주식 중 어디에 투자할지 결정하려고 모든 재무 데이터와 최신 모델을 총동원했지만, 가정 하나를 살짝 바꾸자 추천이 A에서 B로 뒤집히고 다시 A로 돌아오는 것을 보고 신뢰를 접었다고 말했다.

그는 인튜이트가 수천 개 사업체와 약 10만 건의 상황·기간을 대상으로 진행 중인 연구에서 실제 사례를 꺼냈다. 임대 사업을 막 시작해 현금흐름이 마이너스이고 대출이 남은 신규 임대인이 '이익을 어떻게 개선할까' 묻자, 사업 데이터를 모두 가진 프런티어 모델은 두 번째 임대 물건을 사서 수입을 늘리라고 답했다. 적자 상태에서는 대단히 위험한 조언이다. 반면 유사 사업체들이 실제로 무엇을 했고 결과가 어땠는지를 학습한 모델은 갱신 시점 전에 기존 세입자 임대료를 5~10% 올리라고 권했다.

두 번째 사례인 계란 공급업체는 고객 한 곳이 매출의 70%, 공급업체 한 곳이 비용의 대부분을 차지하는 구조였다. 프런티어 모델은 가격을 15~20% 올리라고 했는데, 이는 매출 대부분을 잃을 수 있는 선택이다. 결과에 근거를 둔 모델은 비용 쪽으로 방향을 틀어 공급업체 단가를 5~10% 낮추는 협상을 제안했다. 의류 업체 사례는 더 극단적이었다. 비용의 80%를 차지하는 공급업체를 끊으라는 교과서적 답이 나왔지만, 그 공급업체는 회사 매출의 97%를 만들어내고 있었다. 발표자는 이를 '0달러 매출에 훌륭한 마진'이라고 표현했다.

그는 이런 실패가 우연이 아니라고 봤다. 연구에서 프런티어 모델 조언의 핵심을 분류했더니 40%가 '신규 고객 확보', 추가 14%가 '제품 매출 증대'였다. 최근 프린스턴 연구진이 모델에 도구와 데이터를 붙여 500일치 사업 의사결정을 시뮬레이션한 실험도 인용했다. 각 모델에 100만 달러를 주었지만 대부분이 500일을 채우기도 전에 회사를 파산시켰고, 단순한 규칙 기반 시스템이 거의 모든 모델을 앞질렀다. 이익을 낸 극소수 사례도 재실행하면 파산으로 끝났다.

인튜이트의 대응은 '경험'을 모델에 심는 것이다. 퀵북스·터보택스·크레딧카르마·메일침프에 쌓인 재무 데이터에서 수백만 개의 사업 궤적을 만들고, 특정 시점의 상세한 상태와 그때 취한 행동(마케팅 캠페인 집행, 급여 지출, 채용 비용 등)을 원장에서 도출한 뒤 기간별 결과와 짝지운다. 이 상태·행동·결과 벡터로 강화학습 모델을 학습시켜 어떤 행동이 좋은 결과로 이어지는지 판단하게 하고, 마지막에 LLM이 그 근거로 조언을 생성하도록 훈련한다. 프런티어 모델은 후보 가설을 뽑는 데 쓰고, 그중 무엇이 실제로 옳은 수인지는 학습된 모델이 가린다.

행동의 효과를 재는 방식도 설명했다. 가격을 올린 식당이 6개월 뒤 더 많은 이익을 냈다면 그것이 가격 인상 때문인지, 원래 잘되는 가게였기 때문인지 구분해야 한다. 사업을 두 번 돌릴 수는 없으니, 가격을 올릴 성향이 비슷한 두 집단을 비교한다. 예시에서 인상 집단은 하루 4,200달러, 비인상 집단은 2,800달러의 이익을 얻었다. 차이 1,400달러를 그대로 효과로 보면 안 되고, 애초에 더 잘되는 회사가 가격을 올릴 수 있었다는 점을 보정하면 실제 효과는 약 1,150달러에 가까워진다. 발표자는 이 연결을 보는 지표로 조건부 평균 처치효과(CATE)를 들었다.

주요 인사이트

• 정면 비교에서 중간 크기의 저렴한 모델이 세계 최고 모델들을 이긴 이유는 파라미터 수가 아니라 결과 데이터에 대한 근거였다. 발표자는 프로덕트 담당자로서 큰 모델이 당연히 유리할 것이라 예상했지만 그렇지 않았다고 밝혔다
• 회사의 모든 재무 데이터를 프런티어 모델에 넣어줘도 그것은 한 회사에 대한 데이터 한 묶음일 뿐이다. 맥락을 더 주는 것과 유사 사례의 결과를 아는 것은 다른 문제다
• 지금 확인해야 할 것은 '어떤 모델이 최고인가'가 아니라 '우리에게 있고 모델 접근권으로는 복제할 수 없는 것이 무엇인가'라는 질문이다
• 코딩 영역은 검증된 결과가 풍부해 결과 기반 학습이 이미 앞서 있지만, 금융을 비롯한 다른 도메인은 거의 미개척 상태다
• 좋은 조언 경험에는 근거 있는 과학과 사용자 이해가 동시에 필요하다. 사용자가 자신이 결정에 참여했다고 느끼게 만드는 설계가 신뢰를 만든다

자주 묻는 질문

관련 AI 소식