머신러닝 입문자를 위한 조언 — 강의는 그만 듣고 프로젝트로, 기초와 소프트웨어 역량이 먼저다

핵심 메시지

• 생성형 AI로 바로 뛰어드는 것은 API를 호출하는 제품을 만들 때나 충분하고, ML 엔지니어나 연구자가 되려면 고전 ML 기초가 필요하다.
• 기초를 뗀 뒤에는 다음 강의를 찾기보다 되도록 빨리 실제 프로젝트로 옮겨 가야 한다.
• ML 연구자에게도 소프트웨어 엔지니어링 역량이 필수다. 실제 ML 코드는 프로젝트 전체에서 작은 조각일 뿐이다.
• 모든 논문을 읽고 최신 라이브러리를 다 익히려 하기보다, 반복해서 쓰이는 흐름과 기법을 알아보는 눈을 기르는 편이 낫다.
• 이 과정은 몇 주 만에 끝나지 않는다. 한 달 만에 전문가가 된다는 약속은 성립하지 않는다.

쉽게 이해하기

6년을 준비해 머신러닝 연구자 자리를 얻은 사람이 그동안 무엇을 하고 무엇을 하지 말았어야 했는지를 정리한다. 첫 번째 조언은 점점 더 많은 사람이 무시하고 있는 것이라고 못 박는다. 챗GPT나 이미지 생성 모델을 보고 곧장 생성형 AI로 뛰어들고 싶은 마음은 이해하지만, 그것만으로는 부족하다는 것이다.

여기서 말하는 기초는 선형 회귀, 서포트 벡터 머신, 랜덤 포레스트 같은 고전적인 모델과 정밀도·재현율·F1 점수·혼동 행렬 같은 평가 개념이다. 실용적으로는 면접에서 필요하고, 더 중요하게는 현업 엔지니어와 대화할 때 드러난다. 이 이야기들이 오가는 자리에서 모르면 아직 충분히 배우지 않았다는 게 티가 난다는 것이다. 화려하지 않지만 여전히 생각보다 자주 쓰인다.

두 번째 조언은 강의를 그만 들으라는 것이다. 수학과 프로그래밍을 갖추고 앤드류 응의 코세라 강의 같은 것으로 ML과 딥러닝 기초를 뗐다면, 다음에 들을 최고의 강의를 오래 찾고 있을 필요가 없다. 이 지점부터는 A에서 B로 가는 분명한 경로가 없는 탐색의 영역이기 때문이다. 길을 잃은 것 같고 효율적으로 나아가지 못한다는 느낌이 들어도 그게 정상이다.

세 번째는 스스로를 소프트웨어 엔지니어로 봐야 한다는 것이다. 오픈AI 공동 창업자 그렉 브록만은 사람에게 소프트웨어 엔지니어링을 가르치는 것보다 ML을 가르치는 게 쉽다고 말했다. 구글이 만든 시각 자료도 ML 프로젝트에서 명시적인 ML 코드가 차지하는 비중이 얼마나 작은지를 보여 준다. 디버깅, 데이터 처리와 평가 파이프라인, 시각화, 효율 개선에 쓰는 시간은 낭비가 아니라 프로젝트의 본체에 가깝다.

네 번째는 속도에 관한 것이다. 매달 쏟아지는 논문과 더 낫다고 주장하는 새 라이브러리를 다 따라갈 수는 없고, 그럴 필요도 없다는 것이다. 마지막 다섯 번째 조언은 시간이 걸린다는 사실을 받아들이라는 것이다. 본인도 대학 생활과 2년 반 넘는 파트타임 연구원 경험, 수많은 실패한 프로젝트를 거쳐 6년 만에 원하던 자리에 도달했다.

주요 인사이트

• 프로젝트는 이력서를 꾸미기 위한 것이 아니라 실력을 늘리기 위한 것이다. 그렇게 몇 번 반복하면 프로젝트는 자연스럽게 더 복잡하고 흥미로워지고 결과적으로 이력서에도 좋아진다. 블로그 글이나 데모가 있는 웹사이트처럼 결과물을 보여 줄 형태를 만들어 두는 것도 권한다.
• 라이브러리 선택에 과하게 매달릴 필요가 없다. 거의 모두가 여전히 쓰는 판다스 정도면 충분하고, 새 직장에서 폴라스가 필요하면 어렵지 않게 적응할 수 있다. 본인도 파이토치만 써 왔지만 새 직장에서는 JAX를 쓰게 될 가능성이 높고, 면접관들도 그 사실을 알면서 채용했다.
• 논문을 전부 읽는 것보다 반복해서 등장하는 흐름을 알아보는 눈이 중요하다. 플래시 어텐션이나 KV 캐싱, 그룹 쿼리 어텐션, RAG 같은 것이 나왔을 때 그게 무엇인지 이해하는 식이다.
• 흥미로운 관점 하나. 방금 언급한 것들은 새로운 ML 기법이라기보다 엔지니어링 기법이고, 나온 지 몇 년 안 됐다. 10년 앞서 시작한 사람들이 즐비한 웹 개발과 달리 이 영역에서는 최고 수준을 훨씬 빨리 따라잡을 수 있다는 뜻이다.
• ML 지식의 공간은 넓고 배움의 순서는 무작위에 가깝다. 언어 모델을 배우다 강화학습으로 건너뛰면 처음에는 연결이 보이지 않지만, 계속 하다 보면 점점 더 많은 연결이 보인다고 말한다.

자주 묻는 질문

관련 AI 소식