AI 안전 인재 병목 정리 — 자금은 넘치는데 실제 안전·보안 인력은 연 25%만 늘어난다

핵심 메시지

• AI 안전과 보안을 가로막는 네 가지 병목(인재·자금·아이디어·실행 의지) 가운데 앞의 세 가지는 결국 인재 문제로 수렴한다는 것이 발표의 핵심 주장이다.
• 비영리 재단과 벤처 자본 모두 AI 안전 분야 예산을 빠르게 늘리는 반면, 실제로 현장에 투입된 프런티어 안전·보안 인력은 연 25% 수준으로만 증가하고 있다.
• 현재 AI 종사자 가운데 프런티어 안전·보안을 담당하는 비율은 0.1%로, 발표자는 이를 1%까지만 올려도 상황이 크게 달라진다고 봤다.
• 인재를 키우려면 기술, 실력을 입증할 이력, 사람과의 연결이라는 세 가지가 함께 필요하며, 연구 감각·AI 활용력·협업 능력이 앞으로 가장 귀한 역량이 될 것이라고 짚었다.
• AI가 연구 노동의 일부를 대신할수록 그 결과물을 검토하고 활용할 사람이 더 필요해진다는, 이른바 제번스 역설이 AI 안전 분야에도 적용된다.

쉽게 이해하기

AI 안전 연구자 양성 프로그램 MATS를 이끄는 라이언 키드가 '지능의 최전선' 행사에서 이 분야의 가장 큰 병목이 무엇인지 발표했다. 그는 AGI가 양날의 기술이라는 전제에서 출발한다. 건강과 수명, 정보 접근성, 노동에서의 해방 같은 이득이 기대되는 동시에 더 강력한 무기, 심화된 중독, 감시 확대, 영구적인 일자리 상실 같은 위험도 함께 온다는 것이다. 게다가 세상은 너무 복잡해서 배포 전에 예측한 위험 완화책은 늘 부족하고, 무슨 피해가 생겼는지는 대개 늦게야 드러난다.

그가 꼽은 병목은 인재, 자금, 아이디어, 그리고 실행 의지 네 가지다. 이 중 앞의 세 가지는 결국 인재로 수렴한다는 것이 그의 결론이다. 자금은 오히려 남아돈다. 여러 비영리 기부 기관이 연간 지원 예산을 두세 배로 늘렸고, AI 안전을 표방하는 영리 벤처 펀드와 인큐베이터도 줄줄이 등장했다. 게이츠 재단이 참여했고, 앤스로픽이 상장하면 막대한 규모의 자선 자금이 추가로 흘러들 것으로 그는 내다봤다.

문제는 사람이다. 프런티어 AI 기업 자체는 연 2~3배씩, 빠른 곳은 그보다도 더 빠르게 커지고 있고 MATS에 지원하는 연구자와 멘토 수도 매년 두 배로 늘고 있다. 그런데 실제로 안전·보안 업무에 배치된 인력은 연 25% 증가에 그친다. 사이버보안을 비교 대상으로 삼으면 격차는 더 뚜렷하다. 소프트웨어 엔지니어의 약 15%가 보안 업무를 맡는 수준을 AI에 대입하면 필요한 인력은 지금의 열 배에서 백 배에 이르고, 현재 성장 속도로는 10년 이상이 걸린다는 계산이 나온다.

인재가 자라지 못하는 이유로는 세 가지를 들었다. 좋은 멘토와 동료 피드백, 충분한 연습 기회로 만들어지는 '연구 감각', 경쟁이 극심한 채용 시장에서 자신을 증명할 포트폴리오와 이력, 그리고 협업자·고용주·투자자로 이어지는 연결망이다. 그는 앞으로 언어 모델이 대체하기 어려운 역량으로 어떤 가설이 좋은지 판단하고 언제 탐색을 멈출지 아는 연구 감각, AI를 도구로 부리는 능력, 사람과 조율하는 능력을 꼽았다.

MATS는 4년 동안 530명의 수료생을 배출했고 그중 약 80%가 AI 안전 관련 직무에서 일하고 있으며 10% 정도는 조직을 창업했다고 그는 밝혔다. 박사 학위 소지자는 15%, 학부생도 20%에 이른다. 마지막으로 그는 앞으로 만들어져야 할 조직으로 기업 외부에서 모델을 점검하는 감사·보험 기관, 보안과 비확산 조직, 공격을 막는 방어 기술 기업, 연구 거점 역할을 하는 공간들을 제시했다.

주요 인사이트

• 자금이 부족한 분야와 사람이 부족한 분야는 처방이 다르다. 돈이 남는데도 인력이 늘지 않는다면 문제는 예산이 아니라 훈련과 검증, 연결의 경로가 좁다는 뜻이다.
• 성장률의 격차가 위험을 만든다. 모델을 만드는 조직이 연 2~3배로 커지는데 안전 인력이 연 25%씩 는다면, 시간이 갈수록 감당하지 못하는 영역이 넓어진다.
• 학위가 아니라 결과로 사람을 뽑는 통로가 필요하다. 발표자는 박사 여부를 자격 요건으로 두지 않고 좋은 아이디어를 평가하는 절차를 갖추는 것이 확장의 관건이라고 봤다.
• AI가 연구를 돕는다고 해서 사람이 덜 필요해지지는 않는다. 오히려 모델의 출력을 검토할 수 있는 사람이 많아야 감독의 수준이 함께 올라간다.
• 질의응답에서는 프런티어 기업 바깥, 즉 금융·유통 같은 일반 기업이 에이전트를 실제 업무에 풀어놓기 시작하면서 안전·보안 전문 인력 수요가 훨씬 넓은 범위로 번질 것이라는 지적이 나왔다.

자주 묻는 질문

관련 AI 소식