옵티마인드 정리: 자연어 문제를 최적화 수식과 코드로 바꾸는 MS 리서치의 소형 모델

핵심 메시지

• 옵티마인드는 자연어로 설명한 의사결정 문제를 혼합정수선형계획 수식과 실행 가능한 솔버 코드로 바꿔주는 200억 파라미터 규모의 추론 모델이다.
• 이 분야의 공개 학습 데이터와 벤치마크에는 제약 누락·모호한 설명·오답이 섞여 있어, 일부 학습 세트는 문제 있는 사례가 최대 50%에 달했다.
• 연구진은 데이터를 일일이 고치는 대신 모델이 반복해서 틀리는 지점을 유형별로 정리해 전문가 힌트 라이브러리를 만들었다.
• 같은 힌트를 학습 데이터 정제와 추론 시점 양쪽에 쓰고, 솔버의 오류 메시지로 자기 교정을 반복해 실행 가능한 코드를 확보한다.
• 정제된 벤치마크에서 320억 파라미터 이하 공개 추론 모델을 10% 이상 앞섰고, 자기 교정을 붙이면 프런티어 모델과 견줄 만한 성능을 냈다.

쉽게 이해하기

발표자는 워싱턴대 박사과정이자 마이크로소프트 리서치 인턴으로, 공급망·물류·차량 경로 같은 현실 시스템을 떠받치는 최적화 문제를 다룬다. 이런 문제는 대개 사람이 쓴 메모와 제약 조건, 아이디어에서 출발하는데, 그것을 솔버가 바로 풀 수 있는 깔끔한 수식으로 옮기는 일이 가장 어렵다. 옵티마인드는 그 간극을 좁히는 것을 목표로 만들어졌다.

사용 방식은 단순하다. 사용자가 '주어진 생산 능력 제약 아래 6개월간 이익을 최대화하는 생산 계획을 짜 달라'처럼 자연어로 문제를 설명하면, 모델이 대응하는 수학적 정식화와 실행 가능한 솔버 코드를 생성한다. 사용자는 그 코드를 돌려 최적해를 얻는다.

가장 큰 걸림돌은 데이터 품질이었다. 학습 데이터와 평가용 벤치마크 모두에서 제약이 빠지거나 설명이 모호하거나 정답이 틀린 사례가 발견됐고, 일부 학습 세트에서는 그 비율이 절반에 이르렀다. 평가용 벤치마크는 사람이 직접 정리할 수 있었지만 방대한 학습 데이터를 손으로 고치는 것은 현실적이지 않았다.

그래서 연구진은 모델의 실패 방식을 먼저 분석했다. 특정 문제 유형 안에서 모델은 같은 구조적 실수를 반복했는데, 외판원 문제에서는 부분 순회 제거 제약을 시작 노드에까지 잘못 적용해 하나로 이어지지 않는 경로를 만들어 냈다. 시작 노드를 어떻게 다뤄야 하는지 알려주는 힌트를 붙이자 논리가 바로잡혔고, 여기서 데이터를 일일이 고치는 대신 전문가가 실패 유형별 힌트를 써 두면 된다는 발상이 나왔다.

힌트는 두 곳에서 쓰인다. 학습 데이터 정제 단계에서는 문제 유형을 분류해 힌트를 짝지어 교사 모델에 넣고, 다수결로 안정성을 확보해 깨끗한 풀이를 다시 만들어 낸다. 추론 시점에도 같은 절차를 반복해 사용자 질문의 유형을 분류하고 해당 힌트를 함께 넣어 풀게 하며, 연산 여유가 있으면 솔버 오류 메시지를 받아 여러 차례 자기 교정을 수행한다.

주요 인사이트

• 이 연구의 핵심은 데이터를 고치는 대신 실패 유형을 고쳤다는 점이다. 오류가 무작위가 아니라 문제 유형별로 반복된다는 관찰이 소수의 힌트로 대량의 데이터를 정제할 수 있게 만들었다.
• 힌트는 학습에만 쓰이고 버려지는 자원이 아니라 추론 시점에도 다시 투입되는 가드레일이다. 흐름 보존을 강제하거나 큰 M 값을 고정 상수 대신 변수 최댓값으로 잡으라는 식의 구체적 지시가 여기 해당한다.
• 200억 파라미터라는 크기는 성능만이 아니라 배포 조건과 직결된다. 조직이 민감한 공급망 데이터를 외부로 보내지 않고 자체 GPU에서 돌릴 수 있고, 연구 재현도 쉬워진다.
• 솔버가 뱉는 오류 메시지는 그 자체로 검증 신호가 된다. 코드가 실행되는지 여부를 기계적으로 확인할 수 있는 영역이라 자기 교정 루프가 잘 작동한다.
• 모델과 정제된 벤치마크, 실험 예시를 함께 공개한 점은 이 분야의 데이터 품질 문제를 공동으로 풀자는 제안에 가깝다.

자주 묻는 질문

관련 AI 소식