AI 안전 인재 파이프라인 이야기 — MATS 공동대표가 말하는 연구자 대신 조직을 만든 이유

핵심 메시지

• 그는 평범한 물리학자로 남기보다 인재 파이프라인을 키우는 편이 영향이 크다고 판단해 연구자의 길을 접었다.
• 좋은 연구자는 넓이, 깊이, 안목의 세 축으로 설명된다. 이 중 안목은 피드백이 드물어 가장 늦게 자란다.
• 현재 이 생태계의 병목은 돈이나 뛰어난 연구자가 아니라, 기술을 알면서 사람과 조직을 굴릴 수 있는 '증폭자'라고 그는 본다.
• 프로그램은 규모보다 질을 택했다. 연구 매니저가 소수의 연구원을 밀착 지원하는 구조를 유지하기 위해 인원을 늘리지 않는다.
• 그의 가장 강한 주장은 AI 안전 분야가 창업자와 조직 설계자를 지나치게 낮게 평가한다는 것이다.

쉽게 이해하기

호주에서 자란 라이언 키드는 양자물리학으로 박사를 마쳤지만 연구자로 남지 않았다. 그는 박사 과정 도중 효과적 이타주의를 접했고, 기후 문제와 핵 위험을 거쳐 AI 안전으로 관심을 옮겼다. 결정적인 순간은 버클리에서 열린 워크숍이었다. 그곳에서 만난 사람들 대부분이 과학 박사나 연구 경험이 없다는 사실을 보고, 자신이 개별 연구자로 내는 성과보다 이 분야의 인재 통로를 넓히는 일이 훨씬 큰 차이를 만들겠다고 판단했다.

그는 스스로를 평범한 물리학자였다고 평가한다. 3년간 논문 세 편, AI 안전 쪽에서는 상 하나의 가작이 전부였다는 것이다. 그래서 자신이 만들 수 있는 창업자 효과가 개인 연구보다 크다고 봤고, 이후 AI 안전 연구자 양성 프로그램인 MATS의 공동 대표로 일해 왔다. 연구를 그만둔 것을 후회하느냐는 질문에 그는 시간이 갈수록 후회가 줄어든다고 답한다.

인터뷰의 중심에는 좋은 연구자를 어떻게 알아보느냐는 질문이 있다. 그는 T자 모형을 제시한다. 넓게 읽어 분야의 지형과 빈틈을 파악하는 넓이, 실제로 실험을 돌리고 코드를 쓰는 깊이, 그리고 어디를 파야 할지와 언제 멈춰야 할지를 아는 안목이다. 넓이는 문헌을 읽으면 쌓이고 깊이는 반복으로 늘지만, 안목은 다르다. 박사 과정 학생은 자기 선택이 옳았는지 확인할 기회를 서너 번밖에 갖지 못하는 반면 교수는 수백 번을 겪는다. 그래서 안목을 기르는 방법은 반복 횟수를 늘리고 좋은 멘토에게 밀도 높은 피드백을 받는 것뿐이라고 그는 말한다.

그가 꼽는 현장의 병목은 뜻밖이다. 자금도, 뛰어난 기술 인력도 아니라는 것이다. 그는 '증폭자'라는 표현을 쓴다. 연구를 할 수 있는 기술적 배경을 갖췄지만 사람과 프로젝트를 관리하는 쪽에 힘을 쏟는 사람들이다. 이 역할은 순수 운영직보다는 기술적이고 연구직보다는 덜 기술적이며, 성과가 자기 논문이 아니라 다른 사람이 낸 결과로 나타난다. 프로그램 안에서는 연구 매니저가 여덟에서 열두 명의 연구원을 맡아 외부 멘토를 보조하는 형태로 이 역할이 구현돼 있다.

규모를 더 키우지 않는 이유도 같은 맥락이다. 멘토 지원자의 80%를 돌려보낼 만큼 멘토는 부족하지 않지만, 모든 참가자가 최고 수준의 멘토와 충분한 지원을 받도록 하려면 질을 우선해야 한다는 것이다. 인터뷰 말미에 그가 가장 강하게 밝히는 견해는 이 분야가 창업자와 조직 설계자를 지나치게 낮게 평가한다는 것이다. 연구를 원하지 않는 사람에게도 할 일이 아주 많다는 이야기이고, 그는 AI가 인간의 노동을 대체하기 시작할 가능성을 진지하게 계산에 넣고 각자의 자리에서 경력을 설계해 보라는 조언으로 마무리한다.

주요 인사이트

• 그의 진로 전환은 재능 부족이 아니라 비교우위 판단에서 나왔다. 같은 시간과 능력을 어디에 넣어야 결과가 커지는지를 따져 개별 연구 대신 통로를 넓히는 쪽을 택했다.
• 안목은 가르치기 어렵고 피드백 신호가 희박하다는 지적은 신입 연구자 교육 설계에 그대로 적용된다. 그래서 선발에서는 안목 자체가 아니라 그 대리 지표를 본다고 그는 말한다.
• '증폭자' 개념은 기술 조직 일반에도 통한다. 기술을 이해하면서 사람과 일정을 굴리는 사람이 실은 가장 구하기 어렵고, 이들이 있어야 전문가의 시간이 최소한만 들어가고도 조직이 돌아간다.
• 그는 이론과 실험이 서로를 밀어주는 물리학식 순환을 AI 안전 연구의 바람직한 형태로 본다. 분야가 순수 이론에서 경험적 실험 쪽으로 기운 흐름을 그는 무리 없이 받아들인다.
• 좋은 미래에 대한 그의 그림은 속도 조절에 가깝다. 인간 노동의 가치가 크게 떨어질 때 되돌릴 수 없는 형태로 힘을 잃지 않도록, 사회 변화를 천천히 내보내야 한다는 것이다.

자주 묻는 질문

관련 AI 소식