조엘 피노가 짚은 AI 연구 최전선: 메모리, 월드모델, 계층적 계획과 기업 도입

핵심 메시지

• 피노는 AI 연구가 벽에 부딪혔다는 우려에 동의하지 않으며, 지금 풀어야 할 문제로 기억, 월드모델, 효율적인 추론 세 가지를 꼽는다.
• 기억(메모리)과 지속 학습은 관련은 있지만 다른 문제이며, 지속 학습은 문제 정의 자체가 연구 공동체 안에서 합의되지 않아 진척을 재기 어렵다고 본다.
• 현재 추론 모델은 한 단계의 해상도에서는 잘 계획하지만, 큰 계획과 세부 실행을 오르내리는 계층적 계획에는 여전히 약하다.
• 단일 초지능 하나보다는 목적이 다른 다수의 에이전트가 공존하고 서로 소통하는 미래가 더 유력하다는 것이 그의 예측이다.
• 기술 역량과 실제 활용 사이에 큰 간극(capability overhang)이 있으며, 조직의 프로세스와 데이터 연결이 병목이라는 진단이다.

쉽게 이해하기

빅테크놀로지 팟캐스트 진행자 알렉스 칸트로위츠가 코히어 최고 AI 책임자 조엘 피노를 만나 AI 연구의 최전선과 기업 현장의 현실을 짚었다. 피노는 맥길대 교수이자 메타의 기초 AI 연구 부문을 이끌었던 연구자로, 현재는 기업용 AI를 판매하는 코히어에서 연구와 제품을 함께 보고 있다.

그는 연구가 한계에 부딪혔다는 진단에 선을 긋는다. 대신 지금 세대 모델이 못 하는 일이 무엇인지, 그리고 그것을 어떤 가설로 풀 것인지를 구분해 봐야 한다고 말한다. 첫 번째 숙제는 기억이다. 기계는 방대한 정보를 쌓아 둘 수 있지만, 어느 순간 어떤 조각을 꺼내 쓸지 선택하는 일이 어렵다. 트랜스포머의 어텐션은 그 출발점이었을 뿐, 서로 다른 시간 규모와 세밀도의 정보를 다루는 능력이 더 필요하다는 것이다.

두 번째는 월드모델이다. 행동이 세상을 어떻게 바꾸는지 예측하는 능력으로, 에이전트를 만들려면 반드시 필요하다. 다만 그는 물리적 월드모델과 디지털 월드모델을 구분한다. 웹에서 금융 판단을 하거나 일정을 잡는 에이전트가 중력을 알 필요는 없지만, 자신이 배치된 환경의 규칙은 정확히 알아야 한다는 것이다.

세 번째는 효율적인 추론이다. 그는 여행 계획을 예로 든다. 신발부터 고르는 사람은 없다. 계절과 지역을 먼저 정하고 점점 구체화하다가, 항공권이 막히면 다시 위로 올라가 날짜나 동행을 바꾼다. 이렇게 해상도를 오르내리는 계층적 계획이 현재 모델이 가장 약한 지점이며, 코드로 학습하는 것이 함수·변수·라이브러리 같은 구조적 단서를 익히는 데 도움이 될 수 있다는 기대를 덧붙인다.

후반부는 기업 도입 이야기다. 코히어는 프라이버시와 보안 요구가 높은 기업용 AI에 베팅했고, 금융 서비스처럼 데이터가 민감한 영역에서 내부 정보를 활용하되 결과물은 밖으로 나가지 않는 구조를 만든다. 마지막으로 최근 논의되는 'AI 주권'을 두 가지로 정리한다. 자체 모델을 갖는다는 의미와, 한 모델의 접근이 끊기거나 비싸질 때를 대비해 대안을 확보한다는 의미다.

주요 인사이트

• 지속 학습을 곧바로 열지 말자는 그의 경고는 구체적이다. 학습이 아주 빠르게 진행되면 멀쩡해 보이던 모드에서 순식간에 벗어날 수 있다. 진행자는 과거 마이크로소프트 챗봇 테이가 대화를 통해 학습하다 극단적 발언을 하게 된 사건을 자신의 취재 경험으로 회고한다. 피노의 정리는 간명하다. 지속적인 테스트를 확보하기 전에는 지속 학습을 내보내지 말자는 것이다.
• 메모리가 실패하는 이유를 세 갈래로 나눈 설명이 실무적으로 유용하다. 봇에게 필요한 정보에 대한 접근 권한이 애초에 없었거나, 정보를 임베딩으로 압축해 저장하는 과정에서 제대로 인코딩되지 않았거나, 검색은 됐지만 수많은 후보 중 상위로 올라오지 못했을 수 있다.
• 고객 응대 사례는 인간과 에이전트의 역할 분담을 보여 준다. 봇이 대본을 따라 답하는 대신 여러 출처의 정보를 모아 진단과 몇 가지 실행안을 제시하고, 사람이 계획을 검증해 실행한다. 30분 걸리던 정보 취합이 20초 수준으로 줄고, 사람이 채운 빈 곳은 다시 학습 자료가 된다.
• 기업이 늘 더 큰 모델을 원하지는 않는다는 관찰도 흥미롭다. 실제 유료 고객은 성능과 효율의 균형을 원해, 크게 학습한 뒤 더 작은 모델을 배포하는 선택이 나온다. '일을 끝내기에 충분한 지능'이면 된다는 것이다.
• AI 연구실 간 격차가 잘 벌어지지 않는 이유로 그는 사람의 이동을 든다. 아이디어는 사람 머릿속에 있고 사람은 회사를 옮긴다. 한 번 본 통찰은 되돌릴 수 없기에, 아이디어를 상자에 가두려면 사람을 가둬야 한다는 것이 오픈 사이언스를 지지해 온 그의 근거다.
• 일자리 질문에는 방향을 뒤집어 답한다. 정보 취합을 맡던 신입이 도구를 제대로 쓰면 곧장 온전한 분석가 역할로 건너뛸 수 있고, 오히려 새 기술에 빠르게 적응하지 못하는 쪽이 불리해진다는 관측이다.

자주 묻는 질문

관련 AI 소식