머신러닝 공부가 유독 어렵게 느껴지는 이유와 극복법 다섯 가지, 수식·코드 읽는 요령

핵심 메시지

• 수식을 먼저 이해하려 들면 실패한다. 사람이 떠올린 아이디어를 먼저 잡고 그것이 수식으로 번역된 결과라고 봐야 한다.
• 긴 수식 유도는 한 줄마다 어떤 규칙이나 정의가 쓰였는지 목록으로 모아 두고 패턴을 맞추는 방식으로 넘길 수 있다.
• 코드를 한 시간 쓰면 세 시간을 디버깅하는 것이 정상이다. 디버깅이 곧 코딩이라는 사실을 알면 자책이 줄어든다.
• 낯선 대형 코드베이스는 학습·평가 진입 파일에 중단점을 걸고 디버거로 한 줄씩 따라가는 것이 가장 빠른 파악법이다.
• 사람들이 머신러닝에 실패하는 진짜 이유는 어려워서가 아니라 기대치가 틀려서 너무 일찍 그만두기 때문이다.

쉽게 이해하기

머신러닝을 공부하다 보면 화면 가득한 수식과 코드 앞에서 '나만 못 따라가나' 싶은 순간이 온다. 3년 반 동안 머신러닝을 공부해 온 발표자는 자신도 그랬다며, 누구도 명시적으로 알려주지 않지만 알고 나면 체감이 달라지는 다섯 가지를 정리했다.

첫 번째는 수학을 대하는 방향이다. 교수가 '이것이 결정 트리의 손실 함수'라며 수식을 던지면 대부분은 그 수식 자체를 통째로 이해하려 애쓴다. 발표자는 방향이 거꾸로라고 말한다. 과학자도 수식으로 사고하지 않으며 자연어로 떠올린 아이디어를 수학의 형식으로 옮길 줄 알 뿐이라는 것이다. 실제로 합이나 곱은 조건이 붙은 반복문에 가깝고, 조건 기호는 코드의 조건문과 다르지 않다.

두 번째는 유도 과정이다. 강의에서 교수가 한 줄씩 식을 변형해 나갈 때 '왜 저렇게 했는지'가 막막한 이유는, 각 단계가 결국 특정 규칙이나 정의 하나를 적용한 것임을 모르기 때문이다. 발표자는 강의를 들을 때마다 쓰인 규칙을 목록으로 적어 두고, 문제를 풀 때는 현재 식과 목록을 대조해 맞는 규칙을 찾는 패턴 매칭 방식으로 접근했다고 말한다.

세 번째와 네 번째는 코드다. 튜토리얼을 따라 할 때는 진도가 쭉쭉 나가다가 직접 구현에 들어가면 한 문제에 몇 시간을 붙잡고 다섯 줄밖에 못 쓰는 순간이 온다. 그는 이 지점에서 대부분이 자신을 탓하며 물러선다고 지적한다. 한 시간 작성에 세 시간 디버깅이 정상이라는 사실을 받아들이면 코딩이 불가능한 일처럼 느껴지지 않는다. 남의 코드베이스를 이해할 때는 학습과 평가 진입 파일에 중단점을 걸고 디버거로 따라가면 데이터 전처리부터 학습 루프, 평가 지표까지 몇 시간 만에 전체 그림이 잡힌다.

마지막은 태도에 관한 것이다. 그는 자신이 처음 인공지능 강의를 들은 뒤 머신러닝과 딥러닝 과정, 프로젝트, 논문 읽기를 이어 왔고 아마존·구글 딥마인드 등의 인턴 면접에서 떨어진 경험도 있다고 밝혔다. 몇 주 만에 정복하겠다는 기대가 사람을 지치게 만들며, 시간이 걸리는 것이 당연하다는 전제를 두면 학습 과정 자체가 훨씬 견딜 만해진다는 결론이다.

주요 인사이트

• '수식이 안 읽힌다'는 문제는 수학 실력의 문제가 아니라 접근 순서의 문제일 수 있다. 아이디어 → 수식 방향으로 되짚으면 막힌 지점이 달라진다.
• 강화학습 알고리즘처럼 복잡한 기법을 익힐 때는 최적화된 실전 구현 대신 핵심만 담은 교육용 최소 구현부터 디버거로 훑는 편이 빠르다.
• 디버깅 시간을 실패로 계산하는 습관이 초심자를 가장 많이 무너뜨린다. 시간 배분의 기대치를 현실에 맞추는 것만으로 지속 가능성이 달라진다.
• 면접 탈락과 이해 실패는 경로에서 벗어난 신호가 아니라 표준 경로의 일부라는 점을, 발표자는 자기 이력을 근거로 제시한다.

자주 묻는 질문

관련 AI 소식