AI 네이티브 시스템이란 무엇인가 — 미국 연방 인허가 현장에서 나온 설계 원칙 정리

핵심 메시지

• 기존 소프트웨어 위에 API로 AI를 덧붙이는 대신, 데이터와 시각화를 모델이 해석하기 좋은 형태로 먼저 설계하고 사람용 표현을 나중에 만드는 것이 'AI 네이티브' 설계다.
• 언어·비전·지리공간 모델은 각각 잘하는 일이 달라서, 하나의 모델로 전체 과제를 처리하려는 시도는 실패했고 여러 모델을 조율하는 구조가 필요했다.
• 모델이 학습하지 않은 데이터는 모델이 잘 아는 형태로 바꿔 넣는다. 위성 센서 값을 이미지 픽셀로 표현해 영상 모델의 일관성 추적 능력을 변화 탐지에 활용하는 식이다.
• 허용 가능한 환각률은 용도마다 다르다. 법적 절차를 다루는 시스템에는 1% 미만을 목표로 삼았지만, 본인이 직접 검증하는 보안 조사에서는 30~40%도 감수할 수 있었다.
• 지시문과 스킬로 모델을 바깥에서 억누르는 대신 모델 내부 특성을 이해하고 조종하는 기계적 해석가능성이 실무에서도 성능을 끌어올렸다는 경험을 소개했다.

쉽게 이해하기

미국 연방 기관인 역사보존자문위원회의 정보·보안·AI 총괄 책임자가 대담에 나와, 대형 인프라 인허가 절차를 돕는 AI 시스템을 만들며 겪은 일을 설명했다. 데이터센터나 통신 기지국처럼 연방의 자금·승인이 걸린 사업은 역사적 자산에 미치는 영향을 사전에 검토해야 한다. 문제는 그 근거 자료가 연방 기관과 주 정부, 준주, 부족 공동체에 흩어져 있고 형식과 스키마가 제각각이며 데이터 사전조차 없다는 점이다.

그가 강조한 것은 접근 방식의 차이다. 대부분의 AI 프로젝트는 이미 있는 소프트웨어 위에 API로 모델을 얹지만, 그는 들어오는 정보와 그 정보를 보여주는 방식부터 모델이 해석하기 좋게 설계한 뒤 사람이 보기 좋은 표현을 따로 만들었다. 그런데 실제로 만들어 보니 단일 모델로는 감당이 안 됐다. 언어 모델은 언어를, 비전 모델은 이미지를 잘 다루고 위성 데이터를 다루는 지리공간 모델도 있지만, 어느 것도 건물의 기하 구조까지 이해하지는 못했다.

그래서 택한 전략이 '모델이 잘하는 것을 역이용하기'다. 라이다와 항공 영상에서 깨끗한 건물 외곽선을 뽑아내는 일은 나무나 잡음이 섞여 잘 되지 않았다. 대신 위성 센서 값을 이미지의 색상 값으로 표현해 넣으면, 장면의 일관성을 추적하도록 학습된 영상 모델이 시간에 따른 변화를 읽어낼 수 있다는 것이다. 학습 분포 밖의 데이터를 모델이 이미 익힌 표현 방식으로 번역해 넣는 셈이다.

신뢰성 기준도 용도별로 달랐다. 법적 절차와 대규모 사업이 걸린 이 시스템에서는 환각률 1% 미만을 목표로 잡았지만, 과거 보안 조사 시스템에서는 본인이 검증자 역할을 했기에 30~40%도 받아들일 수 있었다고 말했다. 실제로 자율 조사 과정에서 모델이 특정 국가 연계 공격 집단의 소행이라고 단정한 적이 있는데, 여러 정보원 중 하나의 오래된 지표에 의미론적으로 이끌린 결과였다. 그는 정보원별 가중치를 매기는 별도의 채점 모델을 만들어 이 문제를 해결했다.

대담 후반에는 모델을 바깥에서 통제하는 방식에 대한 회의가 이어졌다. 지시문과 스킬 파일로 컨텍스트를 채워 결정적인 출력을 강요하면 모델의 탐색 능력을 잃는다는 것이다. 그는 대신 모델 내부의 특성을 분리해 들여다보고 조종하는 기계적 해석가능성에 기대를 걸고 있으며, 실제 보안 과제에서 활성화 조종만으로 결과가 훨씬 좋아진 경험이 계기가 됐다고 밝혔다.

주요 인사이트

• AI를 도입한다는 말은 대개 기존 시스템에 모델을 붙인다는 뜻이지만, 처음부터 모델을 1차 사용자로 두고 데이터 표현을 설계하면 결과가 달라진다는 관점이 이 대담의 뼈대다.
• 모델의 약점을 프롬프트로 메우려 하기보다, 모델이 이미 잘하는 표현 형식으로 문제를 옮겨 놓는 편이 실효가 크다는 실무 감각이 드러난다.
• 환각률은 절대적인 기준이 아니라 검증자가 누구인지에 달려 있다. 전문가가 결과를 직접 확인하는 환경과 법적 책임이 따르는 환경은 요구 수준 자체가 다르다.
• 지리공간 분야는 벤치마크 자체가 부족해, 발표자는 필요한 평가 기준을 직접 만들고 공개하는 쪽으로 방향을 잡았다고 말했다.
• 월드 모델을 실제 지형과 자료에 묶어 인프라 사업의 영향을 시뮬레이션하려는 구상은, 기존 디지털 트윈을 렌더링 부담 없이 대체하려는 시도로 읽힌다.

자주 묻는 질문

관련 AI 소식