적응형 AI 엔지니어링: 고정 하네스를 넘어서는 멀티에이전트 설계 철학

핵심 메시지

• 현재 AI 엔지니어링은 실행 전에 역할·도구·순서를 고정한 '하네스'로 에이전트를 통제하는 방식이며, 예측 가능한 문제에는 매우 효과적이다.
• 모델이 급격히 강해지고 AI가 화면 밖 현실 세계와 맞닿으면 고정된 하네스는 쉽게 낡고 취약해진다.
• 발표자는 실행 도중 하네스가 스스로 생성·안정화·변형되도록 두는 '적응형 엔지니어링'을 제안한다.
• 핵심은 개별 에이전트를 똑똑하게 만드는 '수직적 지능'이 아니라, 여러 에이전트의 협응에서 질서가 창발하는 '수평적 지능'이다.
• 엔지니어의 역할은 결과를 직접 지시하는 것에서, 상호작용의 제약(규칙)을 설계하고 창발한 구조를 감지·대응하는 쪽으로 옮겨간다.

쉽게 이해하기

런던에서 의사로 일하며 몇 년째 AI 엔지니어링을 병행해 온 발표자 라지브는, 멀티에이전트·멀티휴먼·다기관 협업을 다루는 Anitcha Labs를 통해 현실 세계에 적용되는 AI의 미래를 탐구한다. 그가 던지는 화두는 고정된 하네스를 넘어선 새로운 설계 철학, 즉 '적응형 엔지니어링'이다.

오늘날의 패러다임은 실행 전에 짜인 하네스로 대형언어모델을 이끄는 것이다. 시스템 프롬프트, agents.md 또는 claude.md, 도구 호출, 특화된 역할을 부여받은 에이전트, 그리고 최근의 루프 엔지니어링까지 모두 실행 전에 미리 결정된다. 발표자는 이를 공장 조립라인, 즉 'AI를 위한 테일러주의'에 비유하며 신뢰성·감사가능성·선형적 인과라는 세 가지 이점을 지적한다.

그러나 이 신뢰성은 공짜가 아니다. 새로움에 필요한 변이를 억제한 대가로 얻어지기 때문이다. 모델이 계속 강해지면 오늘 공들여 만든 하네스도 다음 달이면 불필요해질 수 있고, 현실 세계는 지저분하고 끊임없이 바뀐다. 예상하지 못한 상황마다 사람이 규칙을 덧대다 보면 하네스가 정작 풀려는 문제보다 더 복잡해진다. 발표자의 표현대로 '공장식 방법은 고정된 문제에는 정답이지만 움직이는 문제에는 오답'이다.

그는 세계를 부분으로 쪼개 이해하는 환원주의와, 관계와 과정을 우선하는 시스템적 관점을 대비시킨다. 물의 '젖음'이나 새떼처럼, 부분을 분해해서는 예측할 수 없는 새로운 질서가 국소적 상호작용에서 창발한다는 것이다. 이어 그는 문제를 '복잡한(complicated)' 것과 '복합적인(complex)' 것으로 나누고, 복합 문제를 복잡 문제처럼 다루는 것이 현대 설계의 값비싼 실수라고 지적한다.

적응형 엔지니어링은 하네스가 실행 도중 스스로 창발·안정화·변형되도록 제약(규칙)을 설계하는 일이다. 에이전트들이 결합하며 특화되고 클러스터와 규범이 '지휘자 없는 거버넌스'로 떠오른다. 다만 이는 고정과 자율의 연속선 위에 있으며, 어트랙터에 갇히거나 단일문화에 빠지고 설명가능성이 무너지는 등 실패 모드도 분명하다. 발표자는 두 방식에 우열이 없으며, 미래의 진짜 한계는 모델의 성능이 아니라 하네스의 적응성이 될 것이라고 맺는다.

주요 인사이트

• 하네스는 미리 짜는 '입력'이 아니라, 에이전트들의 상호작용에서 떠오르는 '출력'이 될 수 있다.
• 물의 젖음이나 새떼처럼 전체의 새 질서는 부분을 분해해서는 예측할 수 없다는 '창발'이 핵심 개념이다.
• 복합(complex) 문제를 복잡(complicated) 문제로 착각하는 것이 설계·엔지니어링의 값비싼 실수다.
• 엔지니어의 새로운 레버는 에이전트 간 '결합 속도'를 높이거나 낮추는 등 제약을 조정하는 데 있다.
• 발표자는 개별 에이전트를 똑똑하게 만드는 수직적 지능보다, 에이전트 간 협응인 수평적 지능이 더 높은 레버리지라고 본다.

자주 묻는 질문

관련 AI 소식