AI 정렬 연구 조직 레졸루션 출범 — 1억 6천만 달러와 연구 자동화에 건 승부

핵심 메시지

• 레졸루션은 해석가능성이 아니라 정렬 문제 자체를 겨냥해 새로 만들어진 조직이다.
• Coefficient Giving으로부터 1억 6천만 달러를 조달했고 공개 채용을 함께 시작했다.
• 여러 이론적 접근을 하나의 조직 안에서 병렬로 굴리는 연합 구조를 택했다.
• 이론은 벤치마크 경쟁 대신 믿을 만한 기준점을 제공하고, 연구 자동화와 결합될 때 속도가 난다는 것이 핵심 가설이다.
• 인재 밀도와 컴퓨트라는 프런티어 연구소의 강점을 안전 연구 쪽에서도 재현하기 위해 큰 조직을 만든다.

쉽게 이해하기

FAR.AI 행사의 라이트닝 토크에서 제시 후글란드가 새 조직 레졸루션(Resolution)의 출범을 알렸다. 그는 이 조직이 겨냥하는 것이 해석가능성 연구가 아니라 정렬 문제 자체라고 못 박는다. 조직의 축은 두 가지다. 하나는 더 높은 확신을 목표로 하는 여러 접근을 나란히 굴리는 연합 구조이고, 다른 하나는 연구 자동화다. 이 둘이 서로를 밀어준다는 것이 이 조직의 근본 베팅이다. 이론이 신뢰할 수 있는 기준점을 제공하기 때문에, 벤치마크 점수만 좇는 방식보다 빠르게 나아갈 수 있다는 논리다.

조직은 두 갈래가 합쳐져 만들어졌다. 한쪽은 제프리 어빙이 이끄는 인력으로, 그는 새 조직의 최고과학자를 맡는다. 다른 한쪽은 후글란드가 대니얼 머핏 등과 함께 공동창업한 티마이오스(Timaeus)다. 티마이오스는 독립된 조직으로는 더 이상 존속하지 않고 새 조직 안의 학습 이론 부문으로 이어진다. 초기 연구 갈래로는 학습 이론, 확장 가능한 감독, 페르소나의 과학, 확장 가능한 감독을 보완하는 복잡도 이론, 에이전트 파운데이션 등이 제시됐다.

왜 이런 구조인가에 대한 답은 프런티어 연구소와의 격차에 있다. 후글란드는 개발자들이 초지능을 매우 빠르게 만들고 있으며, 엄밀함과 위험한 역량 사이의 경주를 좀 더 공정한 싸움으로 만들어야 한다고 말한다. 프런티어 연구소가 가진 유리한 조건은 뛰어난 인재가 한곳에 모여 빠르게 아이디어를 주고받는 밀도, 그리고 더 많은 실험을 더 빨리 돌릴 수 있게 해주는 막대한 컴퓨트다. 큰 조직이면 자동화 인프라 구축 비용을 여러 갈래에 걸쳐 나눠 부담할 수 있고, 프런티어 모델 접근을 위해 연구소들과 협력할 때 생기는 운영·규제 부담도 감당하기 쉬워진다는 것이다.

'왜 지금인가'에 대한 근거로는 두 가지가 제시됐다. 첫째, 연구 자동화가 실제로 작동하기 시작했다는 것이다. 후글란드는 단위 거리 추측이 반증된 사례를 많은 사람의 기억에 남은 결과로 꼽으면서, 자동 정형화 워크플로 덕분에 소속 이론가들의 작업에서도 이미 뚜렷한 향상이 나타나고 있다고 말한다. 둘째, 안전 연구 자금의 규모가 커졌다. Coefficient Giving이 이런 큰 베팅에 맞는 속도와 규모로 움직일 수 있게 됐고, 앞으로 앤트로픽의 상장과 OpenAI 재단을 통해 격차를 메울 자금이 더 늘어날 것으로 그는 내다본다.

발표는 채용 공고로 마무리된다. 연구 과학자와 연구 엔지니어는 물론 보안 엔지니어, 운영 제너럴리스트까지 폭넓은 직군을 뽑고 있으며 앞으로 더 늘어날 예정이라고 밝혔다. 그는 청중에게 조금 더 야심 차게 생각해보라고 권하며 짧은 발표를 끝맺는다.

주요 인사이트

• 해석가능성이 AI 안전 논의의 대표 얼굴처럼 자리 잡은 상황에서, '해석가능성이 아니라 정렬'이라고 범위를 명시적으로 그은 점이 이 조직의 정체성을 보여준다.
• 이론을 실용적 도구로 재해석한 점이 눈에 띈다. 이론은 순수 연구의 영역이 아니라, 경험적 지표 경쟁에 휩쓸리지 않게 해주는 신뢰할 만한 기준점으로 제시된다.
• 연구 자동화가 '언젠가'의 이야기가 아니라 지금 베팅할 수 있는 대상이 됐다는 판단이 조직 설계 자체를 바꿨다. 자동화 인프라를 공유 자산으로 두는 구조가 여기서 나온다.
• 작은 안전 연구 조직들이 큰 조직으로 합쳐지는 흐름의 실질적 이유는 이념이 아니라 비용이다. 인프라와 컴플라이언스 부담을 분산하고 프런티어 모델 접근을 확보하려면 규모가 필요하다.
• 안전 연구 자금의 확대가 곧바로 인재와 컴퓨트 확보로 이어진다는 점에서, 자금 구조의 변화는 연구 방향의 변화와 분리해서 볼 수 없다.

자주 묻는 질문

관련 AI 소식