AI 작동 원리 쉽게 이해하기: 앤트로픽이 설명한 예측 구조와 결과를 잘 얻는 습관 네 가지

핵심 메시지

• AI 모델은 메시지를 읽고 학습한 내용을 바탕으로 다음에 올 말을 예측하는 방식으로 답을 만든다.
• 한 단어씩 출력되지만 한 단어씩 생각하는 것은 아니다. 다음 단어를 잘 고르려면 문장이 어디로 가는지, 무엇이 좋은 답인지를 함께 따져야 하기 때문이다.
• 학습에는 컷오프 시점이 있고, 그 이후의 사실은 검색 같은 도구에 기대지 않으면 신뢰하기 어렵다.
• 모델이 틀린 내용을 확신에 찬 어조로 말하는 이유도 같다. 좋은 답처럼 보이는 것을 생성하기 때문이며, 대부분 사실과 맞지만 가끔 어긋난다.
• 맥락 제공, 컷오프 인지, 여러 안 요청, 결과 재확인이라는 네 가지 습관이 결과의 품질을 좌우한다.

쉽게 이해하기

앤트로픽에서 사용자 경험을 담당하는 제인은 AI에 메시지를 보냈을 때 실제로 무슨 일이 벌어지는지부터 짚는다. 인터넷 전체를 읽는 것도, 데이터베이스에서 답을 복사해 오는 것도, 좀 더 그럴듯한 검색도 아니다. 모델은 메시지를 읽고 학습 과정에서 익힌 것을 끌어와 조금씩 답을 써 내려간다.

휴대폰 키보드의 단어 추천도 예측이지만 결정적인 차이가 있다. 키보드는 직전 두세 단어만 보기 때문에 사용자가 무엇을 말하려는지, 문장이 어디로 향하는지 알지 못한다. 반면 AI 모델은 방대한 양의 텍스트와 여러 형태의 정보로 훈련돼 훨씬 깊은 수준에서 예측한다.

훈련은 두 단계로 설명된다. 먼저 텍스트를 보고 다음 단어를 맞히고, 얼마나 근접했는지 확인해 조금씩 조정하는 과정을 수십억 번 반복한다. 이어지는 파인튜닝 단계에서는 사람이 직접 평가하거나 문서로 정리된 지침에 비추어 답 전체를 평가하고, 더 유용하면서 오해를 부르거나 해를 끼칠 가능성이 낮은 쪽으로 모델을 밀어 준다.

이 모든 학습은 특정 시점, 즉 학습 컷오프까지의 정보로 이뤄진다. 그 이후의 사실은 검색 같은 도구를 쓰지 않는 한 모델이 안정적으로 알지 못한다. 검색 기능이 있더라도 모델이 알아서 검색했으리라고 가정해서는 안 되며, 확실히 하려면 검색을 요청하면 된다. 그렇게 하면 대개 확인해 볼 수 있는 출처를 함께 제시한다.

영상은 이 원리를 아는 것이 실제 사용에 도움이 된다고 말한다. 한 번도 존재한 적 없는 글을 써 주는 것도, 틀린 내용을 확신에 차서 말하는 것도 모두 "생성"이라는 같은 성질에서 나온다. 그래서 제안하는 습관은 네 가지다. 자신이 누구이고 무엇을 하려 하며 좋은 결과가 어떤 모습인지 알려 줄 것, 컷오프를 기억할 것, 저장된 정답이 없으니 여러 버전을 요청할 것, 그리고 무엇보다 결과를 직접 확인할 것이다.

주요 인사이트

• "예측"이라는 말은 기계적으로 들리지만 실제로는 그 반대다. 다음 단어를 잘 예측하려면 문단이 무엇을 주장하는지, 좋은 답이 무엇인지까지 파악해야 한다는 설명이 핵심이다.
• 모델은 다음 한 단어(또는 음절)를 내놓기 전에 이전에 주어진 모든 것을 고려한다. 업로드한 문서, 메모리, 시스템 프롬프트, 이전 대화까지 포함되므로 무엇을 넣어 두었는지가 곧 결과의 조건이 된다.
• 자신감 있는 어조나 잘 정돈된 형태는 정확성의 증거가 아니다. 질문의 중요도를 따져 보고, 틀린 정보가 문제를 일으킬 상황이라면 사실 확인을 거치라는 조언이 실질적이다.
• 저장된 하나의 정답을 꺼내는 구조가 아니므로 "다른 버전으로 다시"라고 요청하는 것이 자연스러운 사용법이다. 모델마다 같은 패턴을 다르게 완성하므로 여러 모델을 시험해 볼 가치도 있다.

자주 묻는 질문

관련 AI 소식