AI VIDEO BRIEFING
추론 LLM 실전 정리: 확장 사고와 도구 호출로 리서치 에이전트 만들기, 프레임워크는 언제 쓸까
추론 LLM으로 리서치 에이전트를 처음부터 만들어본 개발자의 기록을 정리했다. 확장 사고와 도구 호출을 엮는 루프 구조, 중간 사고 과정을 그대로 믿으면 안 되는 이유, 그리고 프레임워크를 도입할 때의 득실까지 실전 교훈을 짚는다.
핵심 메시지
- 추론 모델은 예측을 한 번에 내놓지 않고 생각하고 다시 예측하는 루프를 돌기 때문에 응답까지 걸리는 시간이 길어진다.
- 중간 추론 단계를 눈으로 볼 수 있다는 점은 흥미롭지만, 그 내용을 그대로 믿어서는 안 된다. 연구에 따르면 모델의 사고는 사람의 사고와 같지 않고 최종 출력과 인과관계가 보장되지도 않는다.
- 모델이 단계별로 계획을 세울 수 있게 된 것은 지난 1년 반 사이 단계별 풀이 과정이 담긴 학습 데이터를 주기 시작했기 때문이다. 결국 모델은 학습 데이터에 지배된다.
- 확장 사고의 진짜 힘은 도구 호출과 결합될 때 나온다. 인터넷 검색이나 RAG 데이터베이스 조회, 외부 API 연결을 사고 과정에 끼워 넣으면 훨씬 강력해진다.
- 모델에게 계획 전체를 맡기는 것보다 원하는 구조를 미리 지정해주는 편이 결과가 나았다는 것이 실전에서 얻은 교훈이다.
쉽게 이해하기
발표자는 추론 LLM이 어떻게 작동하는지부터 짚는다. 이 모델들은 학습 과정과 예측 과정이 기존 모델과 조금 다르다. 예측을 바로 내놓는 대신 생각하고 추론하고 다시 예측하며 그것이 맞는지 되묻는 루프를 도는데, 그래서 추론에 걸리는 시간이 길어진다. 중간 단계를 볼 수 있는 것은 인상적이지만 그 내용을 액면 그대로 신뢰해서는 안 된다는 경고가 처음부터 붙는다.
여기까지 오게 된 경위도 설명한다. 1세대 대형 언어 모델에서는 감성 분석처럼 입력과 정답을 짝지은 예시를 주는 지시 미세조정을 했고, 모델은 그 유형의 과제를 곧잘 해냈다. 지금은 상세한 계획 수립부터 단계별 풀이까지 담긴 훨씬 복잡한 학습 데이터를 주고 있고, 그 결과 여러 단계에 걸친 문제를 풀 수 있게 됐다. 결국 모델은 자기가 본 학습 데이터에 규정되며 스스로 완전히 새로운 것을 배우지는 않는다는 점을 발표자는 거듭 강조한다.
실습은 확장 사고와 도구 호출을 엮는 것으로 시작한다. 최신 모델에서는 사고 기능을 켜라고 지시하는 것만으로 중간 토큰이 모두 노출되고, 모델은 문제를 다 풀었다고 판단할 때까지 루프를 돌며 생각을 이어간다. 사고에 쓸 예산 토큰을 정해야 하는데 발표자는 자기 작업에는 2,000에서 4,000이면 충분했다고 말한다. 사고 모드에서는 온도를 0으로 두면 안 되고 조금 높게 잡아야 한다는 점도 짚는다.
코드를 처음 작성할 때는 에디터의 코드 생성 기능을 썼는데 순탄하지 않았다. 확장 사고가 나온 지 얼마 안 된 기능이라 도구가 이를 모르고 자꾸 옛 버전으로 되돌리려 했기 때문이다. 최신 문서를 직접 넣어주고 작업을 작은 조각으로 쪼개는 것이 해법이었다. 여기에 출력문을 잔뜩 넣고 토큰 사용량을 추적하게 만든 것이 결정적이었다. 코드는 불어나지만 모델이 각 단계에서 무엇을 하는지 추적할 수 있게 됐다.
완성된 구조는 초기 계획을 세운 뒤 도구를 쓰는 루프를 돌고, 도구가 지나치게 많이 호출되지 않도록 반복 횟수 상한을 둔 다음, 마지막에 보고서를 내놓는 형태다. 처음에는 생각하면서 보고서를 함께 써 나가게 했지만 나중에는 정보를 다 모은 뒤 한 번에 쓰도록 바꿨다. 긴 보고서를 다룰 때는 스트리밍을 켜야 한다는 조언도 붙는다.
주요 인사이트
- 같은 에이전트를 여러 번 만들어보며 얻은 결론은, 모델이 알아서 계획을 정하게 두는 것보다 원하는 절차와 보고서 구조를 미리 지정해주는 쪽이 대체로 낫다는 것이다.
- 출력문과 토큰 추적을 넣어 모델의 각 단계를 들여다보는 일은 코드를 지저분하게 만들지만, 처음 만들 때는 무슨 일이 벌어지는지 이해하는 가장 확실한 방법이다.
- 직접 짠 수백 줄짜리 구현을 프레임워크로 옮기자 30줄 미만으로 줄었고 보고서 생성에 85초가 걸렸다. 다만 프레임워크는 복잡성을 추상화하는 대가로, 기반 기술이 빠르게 바뀔 때 따라가지 못하면 문제가 된다.
- 발표자는 처음 발을 들이는 사람이라면 한 시간 반씩 직접 코딩하기보다 추론 모델을 잘 지원하는 프레임워크로 감을 잡아보라고 권한다.
- 추론 모델을 쓸 자리는 단계별로 나눠 처리해야 하는 작업이다. 효과가 있는지 없는지는 비교적 쉽게 시험해볼 수 있다.
자주 묻는 질문
추론 모델의 중간 사고 과정을 신뢰해도 되나요?
그대로 믿어서는 안 됩니다. 발표자는 연구 결과를 인용해 모델의 사고가 사람의 사고와 같은 방식이 아니며, 생성된 텍스트일 뿐이라 최종 출력과 인과관계가 있다고 보장할 수 없다고 말합니다. 항상 걸러서 받아들이라는 조언입니다.
확장 사고를 쓸 때 설정에서 주의할 점은 무엇인가요?
사고에 쓸 예산 토큰을 정해야 하는데 발표자는 자신의 작업에는 2,000~4,000이면 충분했다고 합니다. 또 사고 모드에서는 온도를 0으로 둘 수 없고 조금 높게 잡아야 하며, 긴 보고서를 다룰 때는 스트리밍을 켜는 편이 좋습니다.
코드 생성 도구로 이런 기능을 만들 때 무엇이 문제였나요?
확장 사고가 나온 지 두세 달밖에 안 된 기능이라 도구가 이를 모르고 해당 기능이 없는 옛 버전 모델로 되돌리려 했습니다. 최신 문서를 직접 넣어주고, 작업을 작은 단위로 쪼개서 진행하는 것이 덜 답답한 방법이었다고 합니다.
프레임워크를 쓰는 게 좋을까요, 직접 만드는 게 좋을까요?
발표자는 무조건 한쪽을 택하라고 말하지 않습니다. 처음 한 번은 직접 만들어봐야 무슨 일이 벌어지는지 이해할 수 있지만, 그저 추론 모델을 시험해보고 싶은 단계라면 프레임워크가 훨씬 빠릅니다. 다만 프레임워크가 기반 기술 변화를 따라가는지는 확인해야 합니다.
원문과 출처
이 글은 원본 영상의 자막을 바탕으로 한국어 독자를 위해 요약했습니다. 전체 맥락과 최신 정보는 원문에서 확인하세요.
YouTube 원본 영상 보기 ↗