AI 학습 데이터 품질이 연산을 배로 늘리는 이유: 데이터 큐레이션 4단계와 합성 데이터 활용법

핵심 메시지

• 데이터 품질을 높이면 학습 곡선 자체가 가팔라져, 같은 연산 예산으로 훨씬 좋은 모델을 얻거나 같은 성능을 훨씬 적은 연산으로 얻을 수 있다.
• H100 가격이 수년간의 하락세를 뒤집고 저점 대비 약 40% 올랐고, 추론형 모델은 일반 모델보다 토큰을 8배 쓰면서 연산 부족이 구조적 제약이 됐다.
• 데이터 작업은 정제·선별·생성·조합이라는 네 단계로 나뉘며, 벤치마크 오염 제거와 중복 축소가 기본기에 해당한다.
• 합성 데이터는 원본 문서를 다양한 형식으로 바꿔 쓰는 방식이라, 리프레이징에 쓴 모델보다 더 나은 모델을 만들 수도 있다.
• 모델 커스터마이징에 수억 달러가 든다는 통념과 달리, 데이터를 제대로 쓰면 훨씬 적은 비용으로 공개 최전선급 모델에 도달한 사례가 있다.

쉽게 이해하기

AI 엔지니어 콘퍼런스의 데이터 품질 트랙을 연 데이톨로지AI(DatologyAI)의 아리 모르코스 최고경영자는 지금 업계가 놓치고 있는 지렛대가 GPU가 아니라 데이터라고 주장했습니다. 그는 지난 6개월 사이 연산 자원이 눈에 띄게 귀해졌다고 짚었습니다. 하드웨어라면 으레 값이 내려가야 정상인데도 H100 가격이 하락세를 되돌려 지난해 말 저점보다 약 40% 올랐고, 추론형 모델이 일반 모델의 8배에 달하는 토큰을 쓰면서 앞으로 1년 사이 다시 5배가 늘 것으로 전망된다는 것입니다.

그는 이런 압박이 이미 서비스 형태로 드러나고 있다고 말했습니다. 구글이 추론 자원 제약을 이유로 메타의 제미나이 사용량에 상한을 뒀고, 오픈AI는 사실상 미래 토큰 용량을 미리 보장해 파는 방식을 시작했다는 것입니다. 사업적 선택이 아니라 물리적으로 추론 자원이 모자라 최전선 API 접근이 제한될 수 있는 세계가 열렸다는 뜻입니다. 그렇다면 연산을 더 살 수 없는 상황에서 모델을 좋게 만들 방법이 무엇이냐는 질문이 남습니다.

그의 답은 데이터 품질이 '연산 배수기'라는 것입니다. 가로축을 데이터, 연산, 시간, 비용 중 무엇으로 놓아도 본질은 같은데, 데이터 품질을 끌어올리면 이 곡선의 기울기 자체가 바뀝니다. 결과적으로 연산에 10배를 더 쓴 것과 같은 성능이 나오거나, 반대로 훨씬 작은 예산으로 같은 성능에 도달합니다. 핵심 원리는 토큰 하나, 배치 하나가 모델에 주는 정보량을 최대로 끌어올리는 것이고, 그래서 모든 곳에 통하는 만능 데이터셋 같은 것은 없다고 그는 못박았습니다. 법률 모델을 원하면 의료 데이터보다 법률 데이터가 필요합니다.

실제 작업은 네 단계로 나뉩니다. 우선 길이가 지나치게 짧은 문서를 걷어내는 등의 정제가 있고, 다운스트림 벤치마크와 겹치는 데이터를 엄격히 제거하는 오염 제거가 따라옵니다. 그다음은 품질 분류기, 주제별 균형 조정, 의미가 겹치는 문서를 덜어내는 중복 축소, 목표 과제에 맞춰 데이터 분포를 맞추는 작업입니다. 이렇게 남은 데이터는 품질은 높지만 양이 부족해지는데, 이때 합성 데이터가 들어옵니다. 마지막으로 여러 출처를 어떤 비율로 섞고 학습 단계별로 어떤 순서로 보여줄지 정하는 조합 단계가 남습니다.

그가 소개한 결과들은 큐레이션만으로 성능이 얼마나 달라질 수 있는지를 보여줍니다. 시각언어 모델에서는 사후 학습 없이 데이터 정리만으로 정확도가 절대치 기준 14%포인트가량 올랐고, 공개 모델 하나와 비슷한 성능을 학습 연산 145분의 1로 냈다고 밝혔습니다. 다국어에서도 전체 토큰의 8%만 비영어 데이터로 쓰고도 비교 대상보다 나은 결과를 얻었으며, 흥미롭게도 영어 데이터만 정리해도 비영어 성능이 함께 올라가는 교차 언어 전이가 관찰됐습니다. 그 전이의 크기는 영어와 해당 언어의 유사도와 강하게 연관돼 있었습니다.

주요 인사이트

• 합성 데이터의 안전장치는 '무엇을 만드느냐'가 아니라 '무엇을 원본으로 삼느냐'에 있습니다. 정보가 전부 원본 문서에서 나오면 모델 붕괴 문제가 생기지 않고, 리프레이징 모델은 개념을 이해할 필요 없이 형식만 정확히 바꾸면 되므로 결과 모델이 리프레이징 모델보다 나을 수 있습니다.
• 무작위로 고른 문서를 리프레이징하면 효과가 크지 않습니다. 고품질 문서를 먼저 골라낸 뒤 여러 형식으로 바꿔야 다양성과 학습 효율이 함께 올라갑니다.
• 특정 도메인에 모델을 맞추면 일반 성능이 깎이는 것이 보통이지만, 보여주는 데이터의 대부분을 사전학습 분포와 비슷하게 유지하면 도메인 성능과 일반 성능이 함께 오를 수 있습니다. 한 법률 정보 기업 사례에서는 사전학습 예산의 1%도 안 되는 1,000억 토큰 중간 학습으로 법률 성능이 약 5%포인트 올랐습니다.
• 더 흥미로운 대목은 그다음입니다. 같은 사후 학습 방식을 적용했을 때, 중간 학습을 거친 모델 쪽의 성능 향상 폭이 약 세 배로 커졌습니다. 사전학습·중간학습·사후학습을 서로 무관한 단계로 떼어 놓고 볼 일이 아니라는 뜻입니다.
• 작은 모델 두 개로 그린 스케일링 직선이 50배 큰 연산으로 학습한 모델의 실제 성능 지점을 거의 통과했습니다. 대규모 학습을 시작하기 전에 훨씬 적은 비용으로 결과를 예측하고 위험을 줄일 수 있다는 실무적 의미가 있습니다.

자주 묻는 질문