AI 용어 정리 51선 총정리 — 토큰·임베딩·어텐션·RAG·MCP·전문가 혼합까지 기본 개념 지도

핵심 메시지

• AI·머신러닝·딥러닝·대규모 언어 모델은 서로 대체어가 아니라 바깥에서 안으로 좁혀지는 포함 관계다.
• 모델이 실제로 보는 것은 글자가 아니라 토큰에 대응하는 숫자이며, 임베딩은 그 숫자를 의미 공간의 좌표로 바꾼 결과다.
• RAG·벡터 데이터베이스·지식 그래프는 모두 모델의 기억 대신 검증 가능한 근거를 붙이려는 장치다.
• MCP는 모델과 외부 도구를 잇는 공통 규격으로, 서비스마다 연동 코드를 따로 짜던 방식을 대체한다.
• 양자화·증류·전문가 혼합(MoE)은 성능을 크게 잃지 않으면서 비용과 응답 지연을 낮추기 위한 기법이다.

쉽게 이해하기

구글 클라우드 관련 콘텐츠로 알려진 채널 The Cloud Girl이 AI 용어 51개를 하나씩 20초 안에 설명하는 영상을 올렸다. 진행자는 정의를 20초 안에 끝내면 점수를 얻고 넘기면 버저가 울리는 게임 형식을 택했고, 재촬영 없이 한 번에 갔다고 밝혔다. 형식은 가볍지만 용어를 나열만 하지 않고 서로의 관계를 이어 붙인다는 점이 이 영상의 강점이다.

출발점은 포함 관계다. AI는 사람의 지능이 필요하다고 여겨지던 일을 하는 시스템 전반을 가리키는 우산 같은 말이고, 머신러닝은 사람이 규칙을 쓰는 대신 데이터에서 패턴을 배우는 하위 개념이다. 딥러닝은 층을 여러 겹 쌓은 신경망을 쓰는 기법이고, 대규모 언어 모델은 그 기법으로 다음 단어를 예측하도록 규모를 키운 결과물이다. 진행자는 파라미터를 '조립 라인 안의 다이얼'에 비유해, 700억 파라미터란 조정 가능한 다이얼이 700억 개라는 뜻이라고 설명한다.

중반은 모델 내부의 처리 과정이다. 토큰화는 문장을 조각으로 자르는 단계이고, 각 조각은 숫자로 바뀌어 모델이 보는 유일한 형태가 된다. 임베딩은 그 토큰을 의미 좌표로 옮겨 king과 queen은 가깝게, banana는 멀게 배치하며, 어텐션은 'tasty apple'처럼 모호한 단어가 주변 어느 단어를 참고해야 하는지를 결정한다. 트랜스포머는 이 어텐션을 반복 실행하는 구조로, 단어를 하나씩이 아니라 전체 시퀀스를 한 번에 처리하기 때문에 학습이 빠르다.

후반은 실무에서 자주 부딪히는 개념들이다. 컨텍스트 윈도는 모델이 한 번에 붙들고 있을 수 있는 분량이며 단어가 아니라 토큰으로 센다. RAG는 답하기 전에 실제 문서를 끌어와 환각을 줄이는 방식이고, 벡터 데이터베이스와 의미 검색은 키워드가 아니라 뜻으로 찾게 해준다. 지식 그래프는 '파리는 프랑스의 수도'처럼 관계가 명시된 사실을 저장해, 비슷해 보이는 것과 확실히 그런 것을 구분한다.

마지막은 비용과 속도에 관한 이야기다. 전문가 혼합은 질의마다 일부 전문가만 활성화해 파라미터가 수천억 개여도 실제로는 일부만 쓰게 하고, 증류는 큰 모델의 답을 작은 모델이 따라 배우게 한다. 양자화는 내부 숫자의 정밀도를 32비트에서 8비트로 낮춰 메모리와 속도를 확보한다. 진행자는 지연 시간을 줄이려는 이런 기법들이 왜 존재하는지를 마지막 항목으로 묶으며 마무리한다.

주요 인사이트

• 용어를 외우는 대신 계층으로 묶으면 훨씬 빨리 붙는다. AI에서 머신러닝, 딥러닝, 대규모 언어 모델로 좁혀지는 구조를 먼저 잡으면 나머지 용어가 어디에 걸리는지 보인다.
• 프롬프트 엔지니어링과 컨텍스트 엔지니어링은 다른 층위다. 앞은 문장을 다듬는 일이고, 뒤는 대화 기록·문서·검색 도구까지 포함해 모델이 보는 전체 작업 기억을 관리하는 일이다.
• 환각은 모델의 고장이 아니라 작동 원리의 부산물이다. 통계적으로 그럴듯한 다음 단어를 고르는 구조이기 때문에, 근거를 붙이는 그라운딩과 RAG가 대응책으로 등장한다.
• 지도학습과 자기지도학습의 차이는 비용 구조의 차이이기도 하다. 사람이 라벨을 다는 방식은 정확하지만 비싸고, 문장의 뒷부분을 가리고 맞히게 하는 방식은 라벨 없이 대규모로 굴릴 수 있다.
• MCP를 도구 연동의 공통 언어로 이해하면 에이전트 이야기가 정리된다. 도구 호출이 표준화돼야 계획하고 실행하는 에이전트, 역할을 나눈 다중 에이전트, 이를 조율하는 오케스트레이션 층이 성립한다.

자주 묻는 질문

관련 AI 소식