AI 에이전트와 온톨로지: 뉴로심볼릭 AI로 확률적 LLM에 논리 가드레일 채우기

핵심 메시지

• 온톨로지는 개체·속성·관계로 도메인을 형식적으로 표현한 '공유된 개념화의 명세'로, 지식 그래프의 토대가 된다.
• 확률적인 LLM과 형식적인 온톨로지를 결합한 뉴로심볼릭 AI는, 환각을 일으키기 쉬운 LLM을 규칙의 가드레일 안에 묶어 두는 방법이다.
• 에이전트의 루프는 시퀀스·조건·반복이라는 세 요소로 튜링 완전성을 완성하지만, 무한 루프·드리프트·토큰 비용이라는 위험도 함께 가져온다.
• 도구 실행 결과를 온톨로지 기반 검증기로 확인하고, 이상하면 LLM에 되묻거나 사람을 개입시키는 방식으로 입력을 검증으로 감싸야 한다.
• OWL의 서로소·함수적 속성 같은 규칙은 '같은 주문의 이중 환불'처럼 자연어로는 잡기 어려운 오류를 형식적으로 걸러낼 수 있다.

쉽게 이해하기

UC버클리에서 컴퓨터과학을 가르치는 프랭크 코일은 에이전트와 온톨로지라는 두 흐름이 어떻게 맞물리는지 설명했다. 에이전트 개념은 매카시·민스키 등 초기 AI 연구로 거슬러 올라가 '지각하고 결정하고 행동하는 존재'로 정리됐고, 온톨로지는 아리스토텔레스의 존재 범주에서 출발해 1993년 그루버가 '공유된 개념화의 형식적 명세'로 다듬은 오래된 개념이다.

코일은 확률적으로 다음 단어를 예측하는 LLM과, 개체·관계·속성을 형식적으로 규정하는 온톨로지가 만나는 지점을 '뉴로심볼릭 AI'라고 소개했다. 그는 환각을 LLM의 결함이 아니라 본질적 특성으로 보면서도, 바로 그 때문에 온톨로지와 규칙 기반 시스템이 LLM을 가드레일 안에 붙들어 두는 역할을 해야 한다고 강조했다.

온톨로지 자체는 복잡하지 않다. 개체와 그들 사이의 관계, 그리고 속성을 그래프로 표현한 것이다. 표에 데이터를 욱여넣는 관계형 데이터베이스와 달리 그래프 데이터베이스는 속성이나 관계를 자유롭게 덧붙일 수 있다. 구축 방식은 전문가가 도메인을 분석해 위에서 아래로 설계하는 방법과, 고객 반응 같은 실제 데이터에서 아래에서 위로 쌓는 방법이 있으며, schema.org·FOAF·더블린 코어·DBpedia처럼 이미 만들어진 어휘를 활용하라고 조언했다.

그는 온톨로지를 감싸는 보조 기술로 RDFS와 OWL을 들었다. RDFS의 도메인·레인지를 쓰면 'Bob이 가르친다'는 문장에서 Bob이 교사이자 사람임을, 상대가 학생임을 추론할 수 있다. OWL의 이행적 속성은 조상 관계처럼 연쇄 추론을, 함수적 속성은 '아버지는 하나뿐'처럼 제약을 표현한다. 이런 규칙은 그래프 본체가 아니라 옆에서 추론과 제약을 더해 준다.

에이전트 이야기로 넘어가 그는 클로드 에이전트를 이용한 간단한 파이썬 루프를 보여 줬다. LLM은 스스로 도구를 실행하지 못하고 호출 파라미터만 돌려주므로, 코드가 stop_reason을 확인해 도구 사용이면 도구를 실행하고, 그 결과를 온톨로지 기반 검증기로 점검한다. 결과가 합리적이면 진행하고, 아니면 LLM에 되묻거나 사람을 개입시킨다. 입력은 파이단틱(Pydantic)으로 타입을, 결과는 온톨로지로 의미를 검증하고, 에이전트는 되도록 부작용 없이 두라는 것이 그의 권고다.

주요 인사이트

• 환각은 버그가 아니라 LLM의 특성이며, 그렇기에 확률적 생성 위에 형식적 규칙이라는 가드레일을 얹는 뉴로심볼릭 접근이 필요하다.
• 1966년 봄-야코피니 정리처럼 시퀀스·조건·반복이 갖춰지면 계산 가능한 모든 것을 다룰 수 있는데, 오늘날 에이전트의 루프가 바로 그 마지막 조각을 채운 셈이다.
• 루프는 강력하지만 깨지거나 드리프트하고 토큰 비용을 키울 수 있어, 검증기와 사람 개입으로 둘러싸는 설계가 안전에 중요하다.
• OWL의 서로소·함수적 속성은 '지원팀에 잘못 송금', '배송됨 아마도' 같은 값 오류처럼 순수 텍스트 세계에서 잡기 어려운 문제를 규칙으로 걸러낸다.
• 관계형 DB의 경직성 대신 그래프 DB의 유연함을 택하고, 이미 존재하는 표준 어휘를 재사용하는 것이 온톨로지 구축의 실용적 출발점이다.

자주 묻는 질문

관련 AI 소식