AI 안전 커리어 전환 사례: 양자컴퓨팅 박사에서 런던 AI 안전 조직 LISA 대표가 되기까지

핵심 메시지

• 크리스 바(Kris Bar)는 옥스퍼드에서 수학·전산학 학부와 양자컴퓨팅 박사를 마친 뒤 공공부문 전문 전략 컨설팅에서 약 9년을 일했고, 지금은 런던의 AI 안전 조직 LISA 대표를 맡고 있다.
• 영국 정부에 파견돼 온라인 안전법 관련 업무를 하며 정권 교체마다 방향이 바뀌는 것을 겪었고, 그 경험에서 입법 절차만으로 빠른 기술 변화를 따라잡기 어렵다는 회의가 생겼다.
• 규제를 도입하더라도 기술적 해법 자체가 없으면 조직들이 선의로도 준수할 수 없다는 점이, 그가 정책 바깥의 일을 택한 이유 중 하나다.
• GovAI 겨울 펠로우십에서 추론 스케일링의 거버넌스 함의를 연구해, 훈련 연산량 임계값에 기대는 컴퓨트 거버넌스 구상이 연산의 무게중심 이동에 따라 조정돼야 한다는 결론을 냈다.
• 커리어 조언은 단순하다. 처음부터 큰 도약을 계획하지 말고 글 하나 읽기, 프로그램 하나 참여하기 같은 작은 단계부터 밟아 스스로에 대한 근거를 쌓으라는 것이다.

쉽게 이해하기

크리스 바는 폴란드에서 태어나 대학 진학을 위해 영국으로 건너와 지금까지 17년을 지냈다. 옥스퍼드에서 수학·전산학 학부와 양자컴퓨팅 박사를 마치기까지 8년이 걸렸고, 그가 몸담았던 연구 그룹은 범주론을 이용해 양자 이론을 사람이 더 자연스럽게 받아들일 수 있는 형식으로 다시 쓰면서 계산의 복잡함을 도식 조작 아래로 감추는 접근을 '유치원 양자역학'이라고 불렀다. 학계에 남는 대신 그는 개인의 영향이 정책이 닿는 사람 수만큼 곱해진다는 판단에서 공공부문 고객을 전문으로 하는 전략 컨설팅을 택했다. 2019년부터 2020년 초까지는 영국 디지털·문화·미디어·체육부에 파견돼 훗날 온라인 안전법이 되는 사안을 다뤘는데, 그사이 총리와 장관, 특별보좌관이 바뀔 때마다 방향이 뒤집혔고 공무원들은 몇 달치 작업이 무의미해질 수 있다는 불확실성 속에서 일했다.

이 경험은 그의 AI 관점에 그대로 이어졌다. 기술이 이렇게 빨리 변하는데 입법 절차가 제때 반응할 수 있겠느냐는 회의가 생긴 것이다. 그는 이런 노력이 여전히 중요하다고 보면서도 그것이 최선의 희망인지에는 회의적이라고 말한다. 게다가 지금은 프런티어 모델을 안전하게 개발할 기술적 해법 자체가 없어서, 무언가를 의무화해도 좋은 의도를 가진 조직조차 지킬 수 없는 상태라고 지적한다.

AI가 큰일이라는 자각은 2014년, 박사과정 2년 차에 팀 어번의 'Wait But Why' 글을 읽으면서 왔다. 지능의 계단 그림과 함께, 인간이 도달한 지점이 가능한 지능의 상한일 이유가 물리 법칙 어디에도 없다는 논증이 인상적이었다고 한다. 다만 당시에는 실현이 수십 년 뒤의 일이라고 봐서 진로를 바꿀 만한 사안으로 여기지 않았다. ChatGPT 공개 이후 판단이 뒤집혔고, 그는 이것이 금세기 최대의 이야기이며 그 안에서 '좋은 편'이 되고 싶다고 생각했다.

어디서 좋은 편이 될 수 있는지를 그는 인센티브로 따졌다. 복잡한 동굴에 물을 부어도 결국 중력이 흐름을 정하듯 사람도 인센티브를 따라 움직인다는 비유인데, 프런티어 기업은 선의를 가진 개인이 있더라도 중기 재무 인센티브가 다른 방향을 가리킬 위험이 크다고 봤고 재무 인센티브가 빠진 비영리 부문이라면 단기 유인과 장기 목표를 맞추기 쉬울 것이라 판단했다. 2024년 3월 블루닷의 AI 거버넌스 코스에 지원한 것은 그 가설을 검증하기 위해서였고, 이어 2025년 초에는 AI 거버넌스 센터(GovAI)의 겨울 펠로우십에서 첫 추론 모델 공개 이후 부상한 추론 스케일링의 거버넌스 함의를 연구했다. 결론은 컴퓨트 거버넌스 구상 다수가 훈련 연산량의 최소 임계값에 기대고 있는데 연산의 일부가 추론으로 옮겨 가면 그 임계값을 어느 수준에 두고 어떻게 개정할지가 달라져야 한다는 것으로, 사전학습이 여전히 중요하고 가장 큰 훈련이 가장 위험하다는 큰 그림 자체는 바뀌지 않는다.

현재 그가 이끄는 LISA(London Initiative for Safe AI)는 런던 쇼디치에서 약 170석 규모의 공동 작업 공간을 운영하며 AI 안전 분야의 연구 조직, 입문 펠로우십 참가자, 개인 연구자 세 부류를 받는다. 그는 이 조직이 유럽의 대표적인 AI 안전 거점이 되기를 목표로 하고, 향후 1~3년 동안 인재 확보, 조직 운영 역량, 조직 간 협력이라는 세 가지 문제에 기여하겠다고 말한다. 킹스크로스 지역으로의 확장도 검토 중이다.

주요 인사이트

• 정부 안에서 일해 본 경험이 오히려 정책 경로에 대한 기대를 낮췄다는 점이 흥미롭다. 잦은 정치적 방향 전환은 공무원의 업무를 낭비시킬 뿐 아니라, 지금 하는 일이 몇 달 뒤 무의미해질 수 있다는 인식 때문에 추진력 자체를 떨어뜨린다.
• 규제와 기술의 순서를 뒤집어 보는 관점이 인상적이다. 기술적 해법이 없는 상태에서는 의무를 부과해도 준수 자체가 불가능하므로, 규제 설계와 안전 연구는 한쪽만으로 성립하지 않는다.
• 추론 스케일링은 성능 이야기로만 소비되기 쉽지만, 연산이 훈련에서 추론으로 옮겨 가는 것은 '훈련 연산량 몇 이상'이라는 규제 기준선을 흔드는 문제이기도 하다.
• 그는 코스에 참여한 목적을 '이 분야가 나에게 맞는지'와 '내가 이 분야에 맞는지'를 동시에 시험하는 것이라고 표현한다. 진로 탐색을 양방향 검증으로 보는 관점이다.
• LISA가 세운 세 가지 문제(인재 확보, 조직 운영 역량, 조직 간 협력)는 순서가 있다. 사람이 들어와야 조직이 생기고, 조직이 제대로 굴러가야 협력이 의미를 갖는다는 구조다.

자주 묻는 질문

관련 AI 소식