플로우 매칭으로 확률 입자계 모사: 비마르코프 요동까지 학습한 스탠퍼드 물리·AI 발표

핵심 메시지

• 브라운 운동처럼 요동이 지배하는 계는 큰 규모를 다루려면 입자 하나하나 대신 격자 칸의 입자 수를 추적하는 거친 격자 방정식으로 바꿔야 한다.
• 그 과정에서 표준 방정식은 잡음을 공간·시간 모두 무상관으로 가정하는데, 실제 입자 시뮬레이션은 입자 수가 적을 때 비가우스적이고 짧은 시간 규모에서 비마르코프적으로 움직인다.
• 연구진은 칸 사이를 오가는 입자 수, 즉 플럭스의 분포를 플로우 매칭으로 학습하되 직전 10단계의 이력을 함께 넣어 기억 효과를 담았다.
• 플럭스를 예측 대상으로 삼으면 질량 보존이 구조적으로 지켜지고, 반사 대칭성을 속도장에 직접 심어 앙상블 통계의 대칭이 무너지지 않게 했다.
• 외부 퍼텐셜이 없는 평형 상태에서만 학습했는데도, 이중 우물을 넘어가는 희귀 사건 실험에서 첨도까지 포함한 고차 모멘트를 표준 방정식보다 훨씬 잘 재현했다.

쉽게 이해하기

스탠퍼드의 물리·AI 콘퍼런스에서 로런스 버클리 국립연구소 응용수학·계산연구 부문의 박사후연구원 바르가브 시다니가 확률 입자계를 다루는 새로운 방법을 발표했다. 유체역학, 화학, 생물학은 물론 사회과학까지 확률 입자계로 설명되는 현상은 많다. 특히 계가 평형에서 벗어나 있으면 미시적인 요동이 거시 규모의 움직임까지 바꿔 놓기 때문에, 요동을 빼놓고는 시뮬레이션이 성립하지 않는다.

문제는 규모다. 물 분자를 펨토초 단위로 따라가면서 밀리미터 규모의 계를 계산할 수는 없다. 그래서 쓰는 것이 거친 격자 확률 편미분방정식으로, 입자 하나하나 대신 계산 격자 칸마다 입자가 몇 개 있는지를 추적한다. 발표에서 다룬 계는 입자끼리 상호작용하지 않고 서로 통과할 수도 있는 가장 단순한 브라운 입자계였지만, 그런 계조차 거친 격자로 바꾸는 순간 원래 없던 성질이 생겨난다.

표준적인 딘-가와사키 방정식과 그 수치 이산화는 잡음이 공간에서도 시간에서도 서로 무관하다고 가정한다. 그런데 실제 입자 시뮬레이션을 돌려 보면 입자 수가 적을 때 분포가 가우스에서 벗어나고, 아주 짧은 시간 규모에서는 기억 효과가 나타난다. 두 칸 사이의 경계면을 오간 입자 수의 시간 상관을 재 보면 뚜렷한 음의 상관이 보이는데, 경계면을 막 넘은 입자가 확률적 움직임 때문에 곧바로 되돌아오기 때문이다.

연구진은 이 두 한계를 생성 모델로 메우기로 하고, 예측 대상으로 칸의 입자 수 대신 경계면을 지난 입자 수인 플럭스를 골랐다. 플럭스를 표본마다 생성하면 계 전체의 질량 보존이 저절로 지켜지기 때문이다. 여기에 직전 10단계의 좌우 칸 입자 수와 누적 전류를 입력으로 넣어 비마르코프 효과를 담았고, 좌우를 뒤바꾸면 분포가 부호만 바뀌어야 한다는 반사 대칭성은 플로우 매칭의 속도장 안에 직접 구현했다. 기억이 아직 쌓이지 않은 초기 구간은 별도 분기 구조로, 이후는 트랜스포머로 처리했다.

학습은 외부 퍼텐셜이 없고 열적으로 평형인 계에서, 입자 수를 1개에서 50개까지 바꿔 가며 진행했다. 검증은 학습에 없던 조건으로 했다. 국소 최소가 두 개인 퍼텐셜을 놓고 입자를 모두 왼쪽 우물에만 넣어 평형에서 벗어난 상태로 출발시키되, 가운데 장벽을 희귀 사건이 될 만큼 높게 설정했다. 결과를 진짜 무작위 보행 시뮬레이션과 비교하면 학습 모델이 가장 가까웠고, 평균만 겨우 맞는 표준 방정식과 달리 첨도까지의 고차 모멘트를 잘 따라갔다.

주요 인사이트

• 예측 대상을 무엇으로 두느냐가 물리 법칙의 준수 여부를 가른다. 각 칸의 다음 입자 수를 직접 예측하면 전체 질량이 보존된다는 보장이 없지만, 경계면을 지나는 플럭스를 예측하면 보존이 구조적으로 따라온다.
• 표준 방정식의 해에는 입자 수가 음수인 칸이 나타난다. 양쪽 경계면이 각각 칸에 있는 것보다 많은 입자를 빼가려 하기 때문인데, 이력을 넣은 모델은 이웃에서 무슨 일이 벌어지는지를 간접적으로 알기 때문에 음수 칸이 눈에 띄게 줄었다.
• 대칭성은 개별 실현이 아니라 앙상블 통계에서 문제가 된다. 칸 수준에서 반사 대칭을 심어 두지 않으면 실현 하나하나는 그럴듯해도 수천 번을 모아 통계를 낼 때 계 전체의 대칭이 보장되지 않는다.
• 지금 이 문제에서는 학습 모델이 오히려 비싸다. CPU에서 100회 평가에 약 9초가 걸려, 1초도 안 걸리는 입자 시뮬레이션보다 느리다. 다만 상호작용이 있는 계로 가면 입자 시뮬레이션 쪽 비용이 급격히 오르는 반면 학습 모델의 비용은 그대로일 것으로 연구진은 본다.
• 학습에 외부 퍼텐셜을 넣지 않은 것은 설계 의도다. 모델이 배우는 것은 확산의 확률적 성질뿐이고 퍼텐셜은 검증 단계에서 수치적으로 더해지므로, 특정 함수 형태에 묶이지 않는다는 것이 연구진의 설명이다.

자주 묻는 질문

관련 AI 소식