AI 모델 선택 가이드: VS Code Foundry 툴킷으로 모델 비교·배포하기

핵심 메시지

• AI 애플리케이션 개발에서 진짜 난관은 구현 방법이 아니라 수많은 공급자·크기·기능 중 어떤 모델을 쓸지 결정하는 일이다.
• VS Code의 Foundry 툴킷은 Microsoft Foundry, OpenAI·Anthropic·Google, GitHub 호스팅 모델, ONNX·Ollama 로컬 모델까지 하나의 환경에서 다룰 수 있게 해준다.
• GitHub Copilot에게 시나리오·구독·리전·기능 조건을 주면 Azure MCP 서버를 통해 조건에 맞는 후보 모델을 추천받을 수 있다.
• 모델 카탈로그의 필터와 플레이그라운드의 나란히 비교 기능으로 후보를 좁히고 실제 프롬프트로 검증한 뒤 배포한다.

쉽게 이해하기

AI 애플리케이션을 만들 때 개발자를 가장 압도하는 것은 코드 구현이 아니라 “어떤 모델을 쓸 것인가”라는 선택이다. 공급자, 모델 크기, 기능이 제각각이라 선택지가 금세 감당하기 어려워진다. 영상은 Visual Studio Code의 Foundry 툴킷이 이 선택 과정을 탐색·비교·결정 세 단계로 도와주는 방식을 보여준다.

Foundry 툴킷은 소형·대형 언어 모델을 폭넓게 제공한다. Microsoft Foundry에 호스팅된 모델, OpenAI·Anthropic·Google 같은 공급자 모델, GitHub에서 제공되는 모델, ONNX나 Ollama로 로컬에서 돌리는 모델까지 다룰 수 있고, 커스텀 통합으로 자체 모델도 가져올 수 있다. 하나의 공급자에 묶이지 않는 유연한 멀티 모델 생태계를 에디터 안에서 얻는 셈이다.

카탈로그를 직접 뒤지기 전에 GitHub Copilot에게 추천을 요청할 수 있다. 발표자는 “이미지 입력을 지원하고 특정 Azure 구독·리전에 배포 가능한, 마케팅 시나리오용 모델 두 개를 비교해 달라”는 식으로 조건을 명시했다. Copilot은 Azure MCP 서버를 이용해 구독 쿼터와 리전, 비전 기능 지원 여부를 확인하고 GPT-5와 Claude Sonnet 4.6을 비교표와 함께 제시했다.

추천을 받은 뒤에는 Foundry 툴킷의 모델 카탈로그에서 Copilot의 제안을 검증하고 더 탐색한다. 호스팅 위치(Foundry), 게시자(OpenAI), 기능(이미지 첨부) 등으로 필터링해 후보를 좁히고, 모델 카드에서 핵심 기능·사용 사례·가격·기술 세부사항을 확인할 수 있다. 발표자는 같은 공급자 안에서 비교하려고 GPT-5와 GPT-4o를 골라 Microsoft Foundry에 배포했다.

배포한 두 모델은 플레이그라운드의 비교 뷰에서 같은 프롬프트로 나란히 시험할 수 있다. “개발자 생산성에 관한 짧은 링크드인 글 작성” 프롬프트에서 GPT-4o는 더 빠르고 이모지·해시태그가 많아 마케팅에 바로 쓰기 좋았고, GPT-5는 더 구조적이고 사람이 쓴 듯 자연스러웠다. 이미지 텍스트 추출에서도 둘의 속도와 출력 방식 차이를 확인한 뒤, 빠른 응답이 필요한 이 사례에서는 GPT-4o를 선택했다.

주요 인사이트

• 모델 선택은 “가장 좋은 모델”을 찾는 문제가 아니라 시나리오(속도, 톤, 이미지 처리, 배포 리전, 쿼터)에 맞는 모델을 찾는 문제다.
• Copilot 추천 → 카탈로그 필터링 → 플레이그라운드 비교로 이어지는 단계적 좁히기가 막연한 선택을 구조화해 준다.
• 같은 프롬프트라도 GPT-4o는 빠르고 마케팅 친화적, GPT-5는 더 구조적·자연스러움처럼 모델마다 성격이 달라, 실제 프롬프트로 직접 비교해 보는 것이 중요하다.
• MCP 서버(여기서는 Azure MCP)를 통해 구독·리전·기능 같은 실제 배포 제약을 추천 단계에서부터 반영할 수 있다.

자주 묻는 질문

관련 AI 소식