닐 난다 인터뷰 정리 - AI 안전 연구 커리어와 LLM 활용법, 박사 진학 판단 기준

핵심 메시지

• 닐 난다는 자신의 성취를 "대부분 운"이라고 말하면서, 빠르게 커지는 분야에 일찍 들어가면 실력과 무관하게 경험 많은 축에 속하게 된다는 점을 강조한다.
• 콜드 이메일은 상대가 바쁘고 중간에 읽기를 멈춘다고 가정하고 써야 하며, 유명한 사람보다 논문 1저자처럼 시간이 있는 사람에게 보내는 편이 훨씬 낫다.
• LLM은 전문가 수준에는 못 미쳐도 신입 수준은 해내므로 분야 진입 장벽을 낮추는 데 뛰어나며, 논문을 요약시키기보다 문제를 내달라고 해 이해도를 확인하는 능동적 사용이 효과적이다.
• 안전 연구가 성능을 조금이라도 높이면 안 된다는 비판은 성립하지 않는다는 것이 그의 주장이다. 안전의 목표 자체가 모델이 우리가 원하는 대로 행동하게 만드는 것이기 때문이다.
• 박사 과정은 반드시 끝내야 하는 것이 아니라 배움의 환경으로 봐야 하며, 지도교수나 매니저의 지도 역량이 연구 실력과는 전혀 다른 능력이라는 점을 반드시 확인하라고 조언한다.

쉽게 이해하기

구글 딥마인드의 기계적 해석가능성 팀을 이끄는 닐 난다는 26살이고 학사 학위만 가지고 있다. 4년 남짓한 기간에 이 분야의 기초 결과를 여럿 내놓았고, 50명가량을 멘토링해 그중 일곱 명이 프런티어 AI 기업에서 일하고 있다. 비결을 묻자 그는 "대부분 운"이라고 답하며, 다만 그 운을 만들 수 있는 방법은 있다고 말한다.

그가 말하는 방법은 '운의 면적'을 넓히는 것이다. 공개적으로 글을 쓰고, 존경하는 연구자에게 먼저 연락하고, 조금 무서워 보이는 제안에도 예라고 답하는 식이다. 본인도 완벽주의 때문에 시작을 미루다가 한 달간 매일 블로그 글을 쓰는 도전으로 이를 깼고, 그 글들이 해석가능성 분야의 씨앗이 됐다. 딥마인드 팀장 자리도 원래 개인 연구자로 들어갔다가 리더가 물러나면서 얼떨결에 맡게 된 자리라고 말한다.

콜드 이메일에 대한 조언은 구체적이다. 상대는 바쁘고 어느 지점에서든 읽기를 멈출 수 있으니 핵심을 앞에 두고, 1분 안에 답할 수 있는 질문이면 그 사실을 가장 눈에 띄게 적으라고 말한다. 무엇보다 가장 유명한 사람이 아니라 더 시간이 많은 주니어 연구자나 논문 1저자에게 보내는 편이 답을 받을 확률도, 실제 도움도 크다고 조언한다. LLM 활용에 대해서는 "지금 어떤 분야에 들어가려는데 LLM을 쓰지 않는다면 실수"라고 단언한다. 그는 시스템 프롬프트와 프로젝트 기능으로 맥락을 쌓고, 프롬프트 작성 자체를 모델에게 맡기며, 음성으로 두서없이 말한 내용을 정리시키는 방식을 쓴다. 모델이 사용자에게 지나치게 맞춰주는 문제는 비판이 오히려 협조적인 행동이 되도록 상황을 설정하는 프롬프트로 우회한다고 소개한다.

AI 안전 연구를 둘러싼 오해도 짚는다. 그는 안전 연구가 성능 향상으로 이어지면 안 된다는 비판이 말이 안 된다고 본다. 안전의 목표가 모델이 원하는 대로 행동하게 만드는 것이니 상업적으로도 유용한 것이 당연하고, 오히려 유용해질 경로가 전혀 없는 연구를 문제 삼아야 한다는 것이다. 다만 안전을 상대적으로 더 진전시키는 연구와 그렇지 않은 연구를 구분해야 한다는 단서를 붙인다.

미래 예측에 대해서는 공개적으로 자신의 확률과 시점 전망을 밝히지 않는다는 원칙을 지킨다고 말한다. 사람들이 유명인의 숫자에 지나치게 닻을 내리기 때문이다. 그는 AGI가 아주 빨리 올 세계, 10~20년 뒤일 세계, 훨씬 더 먼 세계가 모두 그럴듯하므로 그 모두를 염두에 둔 포트폴리오를 짜야 한다고 본다. 다만 짧은 시나리오에서 유용한 작업이 다른 시나리오에서도 대체로 쓸모 있다는 이유로 그쪽에 무게를 두자고 제안한다.

주요 인사이트

• 그는 대기업을 하나의 일관된 의사결정 주체로 보면 예측이 어긋난다고 말한다. 1천 명이 넘는 조직은 권한이 분산되고 이해관계자가 나뉘며, 중요한 결정만 위로 올라간다는 구조를 이해해야 조직 안에서 무엇이 가능한지 판단할 수 있다.
• "기업 내부는 효율적 시장이 아니다"라는 비유가 핵심이다. 금융시장에는 비효율을 찾아 없애는 일만 하는 사람들이 있지만 기업에는 조직 전체를 살피며 놓친 기회를 찾는 전담 인력이 없기 때문에, 안전 팀이 남들이 못 본 기회를 잡을 여지가 실제로 크다는 것이다.
• 안전 문제를 뒤늦게 고치려 하면 급한 불 끄기가 되어 미세조정 데이터를 더 넣는 익숙한 방법밖에 못 쓴다는 지적이 나온다. 기만 같은 문제에는 그 방법이 통하지 않을 수 있으므로, 사고의 연쇄 감시나 해석가능성 기반 평가 같은 대안을 미리 현실적인 선택지로 만들어둬야 한다고 말한다.
• 연구 결과를 알릴 때는 한계를 초록처럼 눈에 띄는 곳에 적으라고 조언한다. 경험 많은 연구자는 알맹이 없는 과장을 금방 알아보고 저자에 대한 평가를 낮추는데, 그 사람들이 나중에 채용이나 협업을 결정하기 때문에 과장은 실제 비용을 치른다는 것이다.
• 그는 조언 자체의 한계도 인정한다. 사람마다 필요한 조언이 다르고, 대개는 이미 과하게 하고 있는 쪽을 더 해야 한다고 착각하는 편향이 있다고 말한다. 그래서 자신은 "한쪽 극단과 반대쪽 극단이 있고 정답은 그 사이 어디"라는 형태로 말하려 한다고 밝힌다.

자주 묻는 질문

관련 AI 소식