Cell-o1 논문 해설: 7B 오픈소스 모델이 단일세포 분류에서 OpenAI o1을 73% 차이로 앞선 방법

핵심 메시지

• 단일세포 RNA 시퀀싱의 세포 종류 분류는 전문가가 몇 주에서 몇 달을 들여야 하고, 연구자마다 결과가 달라 재현성이 떨어지는 작업입니다.
• 연구진은 이 작업을 세포 하나씩 푸는 문제가 아니라 8~15개 세포를 한 묶음으로 함께 푸는 배치 단위 추론 문제로 다시 정의했습니다.
• 7B 오픈소스 모델에 OpenAI o1의 정답 추론 기록 3,912개로 지도학습을 한 뒤, 배치 전체를 맞혀야 보상을 주는 강화학습을 얹었습니다.
• 배치 단위 정확도는 32.88%로 OpenAI o1의 19.0%보다 상대적으로 73% 높았고, 학습에 없던 질병 네 가지에서도 모두 1위였습니다.
• 다만 후보 세포 종류 목록을 미리 알려주는 단순화된 설정이라, 후보 자체를 모르는 실제 연구 현장과는 거리가 있습니다.

쉽게 이해하기

사람 조직 한 조각에는 수만 개의 세포가 섞여 있습니다. 단일세포 RNA 시퀀싱 연구가 의미를 가지려면 그 세포가 면역세포인지 상피세포인지, 또 어떤 하위 종류인지를 하나하나 붙여야 합니다. 지금까지 전문가들은 비슷한 세포끼리 묶고 각 묶음의 마커 유전자를 찾아 기존 데이터베이스와 대조하며 손으로 라벨을 달았습니다. 정확하지만 데이터셋 하나에 몇 주에서 몇 달이 걸리고, 사람마다 결과가 조금씩 달라 재현성이 떨어진다는 문제가 남았습니다.

그래서 대형 언어 모델에 이 일을 맡기려는 시도가 이어졌지만, 기존 방식은 세포를 한 개씩 따로 처리했습니다. 같은 환자에게서 나온 옆 세포가 무엇인지는 보지 않는다는 뜻입니다. 실제 전문가는 묶음 전체를 함께 보면서 이건 면역세포 계열이니 옆의 저것은 다른 계열이겠다는 식으로 후보를 좁혀 나갑니다. 연구진이 던진 질문은 이 차이를 문제 정의에 반영하면 작은 모델도 거대 모델을 이길 수 있느냐였습니다.

이를 위해 만든 것이 CellPuzzles라는 벤치마크입니다. 같은 기증자, 같은 조직에서 나온 세포 여덟 개에서 열다섯 개를 한 배치로 묶고, 각 세포의 상위 발현 유전자 목록과 순서를 뒤섞은 후보 세포 종류 목록을 함께 줍니다. 세포 수와 라벨 수가 같아 1대1로 정확히 배정해야 하며, 하나라도 틀리면 그 배치는 0점 처리됩니다.

학습은 두 단계로 나뉩니다. 먼저 OpenAI o1에게 같은 문제를 풀린 뒤 정답을 맞힌 추론 기록만 3,912개 골라, 7B 규모 오픈소스 모델인 Qwen2.5-7B-Instruct에 지도학습으로 사고 형식부터 익히게 했습니다. 이어 GRPO라는 강화학습 알고리즘으로 배치 전체를 맞히면 보상 1, 하나라도 틀리면 0, 형식이 깨지면 -1을 주었습니다. 부분 점수를 없애자 모델은 세포 하나만 보지 않고 후보 목록 전체를 함께 저울질하기 시작했습니다.

결과는 배치 단위 정확도 32.88%로, 같은 문제에서 19.0%에 그친 OpenAI o1을 상대적으로 73% 앞섰습니다. 배치에 담긴 세포가 여덟 개에서 열다섯 개로 늘어도 격차가 유지됐고, 학습에 한 번도 쓰이지 않은 유방암·흑색종·루푸스·대장암 네 가지 질병에서도 모두 1위였습니다. 답을 정한 뒤 스스로 되짚어 보는 행동이 추론 기록의 57%, 쉬운 세포부터 풀어 그 정보를 단서로 삼는 행동이 77%에서 관찰됐는데, 다른 모델에서는 거의 나타나지 않은 패턴이었습니다.

주요 인사이트

• 도메인 특화 과학 추론에서는 모델 크기보다 무엇을 어떻게 가르치느냐가 결과를 갈랐습니다. 수십 배 큰 폐쇄형 모델을 7B 모델이 넘어선 근거는 파라미터 수가 아니라 문제 정의와 보상 설계였습니다.
• 보상을 세포 단위가 아니라 배치 단위로 준 것이 핵심 장치입니다. 부분 점수를 주지 않자 모델이 후보를 서로 배제하며 좁혀 가는 전략을 스스로 익혔습니다.
• 모델이 추론 과정을 텍스트로 남기기 때문에 사람이 결과를 검증할 수 있습니다. 며칠 걸리던 일을 몇 분에 끝내면서 해석 가능성까지 확보했다는 점이 연구 현장 도입에서 중요합니다.
• 성능 숫자만 보고 판단하면 위험합니다. 후보 세포 종류 목록을 미리 주는 설정은 실제 연구와 다르고, 현장에서는 후보풀 자체를 모르거나 흔한 종류가 여러 번 등장하고 희귀 종류가 빠져 있기도 합니다.
• 학습 데이터가 한 데이터베이스에서만 왔고, 그럴듯해 보이지만 틀린 추론을 만들어 낼 위험과 보상이 희소해 하이퍼파라미터 조정이 까다롭다는 점도 저자들이 직접 인정한 한계입니다.

자주 묻는 질문

관련 AI 소식