지식 그래프와 LLM 결합 실전: 멀티소스 통합과 그래프 분석으로 환각을 줄이는 설계 원칙

핵심 메시지

• 출처가 많아질수록 같은 대상의 의미가 갈라지므로, 노드를 늘리기 전에 식별자 정렬과 스키마 매핑을 먼저 고정해야 한다.
• 그래프 구축은 결정론적인 매핑과 제약이 담당하고, LLM은 그 뒤에서 분석 결과를 설명하는 후속 계층으로 둔다.
• 연결성, 커뮤니티 구조, 질병 경로, 경로 관련성은 서로 다른 질문에 답하는 별개의 분석 관점이다.
• LLM이 내놓은 설명은 검증된 사실 저장소가 아니라 사람이 검토할 후보이며, 수용·보류·수정·폐기의 판단은 사람이 남긴다.
• 멀티소스 지식 그래프의 첫 산출물은 거대한 그래프가 아니라 엔티티 정렬 규칙과 검증 책임표다.

쉽게 이해하기

발표자는 지식 그래프가 한때 밀려났다가 다시 주목받게 된 흐름부터 짚었다. 기호 기반의 지식 체계는 사람이 일일이 채워 넣어야 해서 구축 자체가 어려웠고 자동 생성도 되지 않아 오랫동안 정체됐다. 그러다 대규모 언어 모델이 그럴듯한 말을 만들어 내면서 환각을 줄일 장치가 필요해졌고, 그래프 기반 접근이 다시 표준처럼 함께 쓰이게 됐다는 것이다.

책의 사례는 생명의학 영역이다. 단백질 상호작용 네트워크, 질병과 단백질의 연관, 질병 온톨로지, 유전자 정보 같은 서로 다른 소스를 하나의 그래프로 합친다. 여기서 중요한 것은 "어떤 파일을 넣을까"가 아니라 "이 소스가 어떤 노드와 관계, 속성을 책임질까"라는 관점으로 설계하는 일이다. 식별자 정합, 스키마 정렬, 출처 보존을 거쳐야 비로소 하나의 뷰에서 질의할 수 있는 그래프가 된다.

분석은 여러 렌즈로 나뉜다. 약하게 연결된 컴포넌트는 단백질들이 몇 개의 연결 덩어리로 나뉘는지를 묻고, 커뮤니티 탐지 알고리즘은 내부가 더 촘촘한 군집이 있는지를 묻는다. 질병 경로 지표와 경로 관련성 점수는 또 다른 질문이다. 발표자는 이를 건물을 볼 때 평면도와 측면도, 공조와 배수관, 조명을 따로 보는 것에 비유했다. 참석자들은 이 군집화가 사실상 클러스터링 알고리즘이며, 좌표 거리 대신 노드와 엣지의 연결 관계로 묶는다는 점을 확인했다.

질병 경로 하나를 보더라도 세 가지 지표를 함께 봐야 한다는 대목이 나온다. 가장 큰 연결 덩어리에 얼마나 들어가는지, 가능한 내부 연결 대비 실제 내부 연결의 비율은 얼마인지, 외부로 새는 연결이 내부 결속에 비해 얼마나 큰지다. 발표자는 이를 소프트웨어에서 응집도를 높이고 관계가 옅은 것은 느슨하게 분리하는 설계에 빗대 설명했다.

핵심 경계는 "구조가 보인다"와 "원인이 증명됐다"를 분리하는 것이다. 지표는 후보를 좁힐 뿐이고, 원인과 조치는 추가 근거와 세부 분석으로 결정한다. 도메인 지식으로 정의한 집합과 알고리즘이 찾아낸 군집을 섞어서도 안 된다. 마지막으로 논의는 이 방식이 맞는 문제의 모양으로 옮겨 갔다. 공통 코드나 매핑 경로가 있고, 연결성과 경로·커뮤니티가 핵심 질문이며, 결과를 근거까지 추적할 책임자가 있고, 그래프 질의가 SQL 조인보다 복잡도를 줄여 줄 때 도입 가치가 커진다. 반대로 단일 테이블과 필터·집계로 충분하거나, 이름만 있고 동명이인이 많거나, 품질 기준과 소유자가 없거나, LLM의 설명을 바로 최종 판단으로 쓰려 한다면 다른 접근이 낫다.

주요 인사이트

• 질의응답에서 참석자들은 생명의학 예시가 오히려 이해를 가로막는다고 지적하며, 단백질을 회사로, 단백질 간 상호작용을 협업이나 경쟁 관계로 바꿔 보면 같은 구조를 훨씬 쉽게 설명할 수 있다는 대안을 내놓았다.
• 한 참석자는 실제 진단 과제에 이 세 단계를 그대로 적용하지는 않는다고 밝혔다. 노이즈를 걸러 내는 단계와 엔티티 간 관계를 점수화하는 단계는 응용할 여지가 있지만, 군집을 새로 찾아내는 알고리즘은 이미 관계가 입력돼 있는 구조를 오히려 흐트러뜨릴 수 있다는 이유였다.
• 같은 참석자는 유사 사례에 근거한 추론이 "비슷한 특징을 가진 다른 곳에 문제가 있었으니 여기에도 있을 것"이라는 수준에 머물러 진단의 근거로는 약하다고 말했다. 가설을 뽑아내는 데까지는 쓸 수 있어도 판정에는 쓸 수 없다는 구분이다.
• 발표자는 시니어가 AI를 더 잘 쓰는 이유를 이 구조로 설명했다. 도메인 경험이 있는 사람의 머릿속에는 이미 지식 그래프가 있어 모델의 출력을 수용·보류·수정·폐기로 걸러 낼 수 있지만, 그 틀이 없으면 지식 그래프 없이 모델만 돌리는 상황과 비슷해진다는 것이다.
• 신약 개발처럼 시도와 실패에 큰 비용이 드는 영역에서 이 조합의 값어치가 두드러진다. 모델이 범주와 해석 후보를 넓게 제시하고 사람이 지식 그래프를 기준으로 우선순위를 매기면, 검증할 경로를 찾는 일이 훨씬 빨라진다는 설명이다.

자주 묻는 질문

관련 AI 소식