추론형 AI 완벽 정리: o1·딥시크 R1과 시스템1·2 사고로 본 생각하는 AI

핵심 메시지

• 지금까지의 대형 언어모델은 문제를 이해해 푼다기보다, 가장 그럴듯한 답을 빠르게 내놓는 ‘직관형’에 가까웠다.
• 심리학의 시스템1(빠른 직관)·시스템2(느린 숙고) 구분에서, 기존 AI는 시스템1에 갇혀 있었고 연쇄적 사고(CoT)는 임시방편이었다.
• 오픈AI의 o1은 답하기 전에 ‘생각할 시간’을 더 주도록 설계된 모델로, 어려운 수학·코딩 문제 정답률을 극적으로 끌어올렸다.
• 딥시크 R1은 o1과 비슷한 성능을 내면서 비용을 크게 낮추고 추론 과정을 공개해, 추론형 AI를 대중에게 열었다.
• 앞으로는 질문의 난이도를 스스로 가늠해 쉬운 건 빠른 모델, 어려운 건 추론 모델로 넘기는 하이브리드 방식이 예상된다.

쉽게 이해하기

영상은 우리가 매일 쓰는 AI가 ‘생각’하는 것이 아니라 ‘흉내’를 내는 것에 가깝다는 문제 제기로 시작한다. 발표자는 복잡한 수학 경시 문제 앞에서 이전 세대 모델(GPT-4.5로 언급)의 정답률이 약 13%에 그쳐, 거의 100%를 맞히는 인간 전문가와 큰 차이를 보였다고 소개한다. 여러 단계를 거쳐야 하는 복잡한 추론이 기존 AI의 치명적 한계라는 것이다.

그 원인을 설명하기 위해 시스템1과 시스템2라는 두 가지 사고방식을 끌어온다. 시스템1은 ‘1 더하기 1’처럼 즉각적이지만 실수하기 쉬운 직관이고, 시스템2는 ‘17 곱하기 24’처럼 느리지만 신중하고 정확한 계산이다. 지금까지의 AI는 빠르기만 한 시스템1에 머물렀고, 그래서 개발자들은 ‘풀이 과정을 함께 써보라’고 시키는 연쇄적 사고(CoT) 기법으로 성능을 끌어올렸지만 근본 해결책은 아니었다고 짚는다.

전환점은 오픈AI의 o1이다. 영상은 o1을 설계 단계부터 시스템2 사고를 하도록 만든 모델로 소개하며, 모델 크기를 키우는 대신 ‘답하기 전에 더 오래 생각하게 하는’ 쪽으로 패러다임이 바뀌었다고 설명한다. 그 결과 앞서 13%였던 수학 정답률이 83.3%로 뛰었고, 복잡한 알고리즘 문제 코딩에서 약 89%, 의료 진단 테스트에서는 평균적인 인간 의사보다 높은 점수를 받았다고 전한다.

다만 대가도 있다. 답변이 수 초에서 수 분까지 느려지고, 어떤 과정을 거쳤는지 보이지 않는 블랙박스이며, 실시간 정보에는 약하다는 것이다. 이 한계를 파고든 것이 딥시크 R1로, 영상은 o1과 성능이 비슷한데 100만 토큰 기준 비용이 약 60달러 대 2달러 남짓으로 크게 저렴하고, 추론 과정을 보여주며 오픈소스라는 점을 강조한다.

발표자는 실용 가이드로 마무리한다. 이메일 초안처럼 빠르고 간단한 일은 시스템1 모델을, 정확성이 생명인 복잡한 문제는 o1 같은 시스템2 추론 모델을, 비용이 부담되거나 과정을 꼭 확인해야 하는 프로젝트는 딥시크 R1을 권한다. 그리고 앞으로는 사용자가 고르지 않아도 AI가 난이도를 판단해 알맞은 모델로 자동 분배하는 하이브리드 시대가 올 것이라 내다본다.

주요 인사이트

• 성능 향상의 축이 ‘모델을 더 크게’에서 ‘답하기 전 더 오래 생각하게’로 옮겨갔다는 점이 추론형 AI의 핵심이다.
• 정답률이 13%에서 83.3%로 뛴 사례처럼, 추론 설계는 단순한 개선이 아니라 문제 해결 가능 범위 자체를 넓혔다.
• 딥시크 R1의 저비용·투명성·오픈소스는 ‘생각하는 AI’를 소수 빅테크의 전유물에서 모두의 도구로 바꾸는 계기가 됐다.
• 느린 속도, 블랙박스, 실시간 정보 부재라는 추론 모델의 약점 때문에, 작업 성격에 따라 모델을 골라 쓰는 판단이 중요해졌다.
• 질문 난이도를 스스로 가늠해 모델을 자동 배분하는 하이브리드 구조가 다음 단계로 제시된다.

자주 묻는 질문

관련 AI 소식