공공 AI 대전환(AX)의 현실: AI 3강 목표와 데이터 칸막이·전력·책임 문제 총정리

핵심 메시지

• 공공기관이 쓰는 AI는 폐쇄된 환경, 검증된 데이터, 제한된 목적이라는 세 가지 공통점을 갖는다.
• 부처·데이터·시스템에 남아 있는 '칸막이'를 걷어내지 못하면 에이전틱 AI는 공공에서 제 힘을 못 낸다.
• 영국은 정부 부문 에이전틱 AI 도입 가이드라인을 배포했고, 에스토니아는 여러 부처를 연결하는 시스템을 운영 중이다.
• 전력·상면(공간)·GPU 같은 인프라 예산과 지속가능성이 공공 AI의 실질적 병목으로 지목됐다.
• 에이전트가 잘못된 판단을 내렸을 때 누가 검증하고 누가 책임지는지가 아직 정리되지 않았다.

쉽게 이해하기

삼성SDS가 공개한 공공 부문 토크쇼에서 정부 정책 담당자와 학계·업계 전문가들이 '공공 AX(AI 대전환)'의 현주소를 짚었다. 출연자들은 공공기관이 도입하는 AI 서비스에 공통점이 뚜렷하다고 정리했다. 인터넷과 분리된 폐쇄망에서 돌아가고, 법령·시행령처럼 검증된 데이터를 쓰며, 법령 검색이나 민원 분류처럼 목적이 제한돼 있다는 것이다. 민간보다 보수적으로 설계될 수밖에 없는 이유이기도 하다.

현장 활용 사례도 언급됐다. 삼성SDS는 지난해 경기도교육청에 협업 플랫폼을 공급해 회의가 끝나면 회의록을 따로 작성하지 않아도 되고, 다른 나라 기관과의 회의에서 실시간 통·번역을 쓸 수 있게 했다고 소개했다. 사연으로 소개된 고등학교 교사의 고민처럼, 상담 기록과 보고서 작성에 밀려 본업인 수업에 집중하지 못하는 문제를 AI 비서가 덜어줄 수 있느냐가 공공 현장의 실제 관심사로 등장했다.

해외 사례로는 정부 부문에 에이전틱 AI를 도입할 때 참고할 가이드라인을 만들어 배포하고 있는 영국, 여러 부처의 데이터를 연결해 업무를 처리하도록 설계한 에스토니아의 시스템이 거론됐다. 국내에서는 소상공인이 창업 신고를 하려면 행정기관을 아홉 번에서 열 번 찾아가야 하는 현실을 바꾸기 위해, 한 곳에서 모든 민원을 처리하는 통합민원 시스템이 추진되고 있다는 설명이 나왔다.

출연자들은 병목을 세 갈래로 짚었다. 첫째는 인프라다. AI 서비스는 과거 디지털 전환보다 훨씬 무거운 체력을 요구하는데, 전력부터 상면(데이터센터 공간)과 GPU 서버까지 비용이 크고 정부가 예산으로 어디까지 감당할지가 과제다. 둘째는 범위다. 어디까지를 AI가 하고 어디부터 사람이 할지, 그 기준을 누가 정할 것인가다. 셋째는 책임이다. 에이전트가 스스로 내린 결정이 잘된 것인지 판단할 방법도, 재난 대응이나 예산 집행처럼 피해가 큰 영역에서 사고가 났을 때 책임 주체도 아직 명확하지 않다.

'소버린 AI'를 두고는 파운데이션 모델만으로는 부족하다는 데 의견이 모였다. 남의 영향을 덜 받는 데이터, 전력, GPU 같은 부품, 인프라까지 가치사슬 전반에서 독자성을 확보해야 한다는 것이다. 한 출연자는 이중섭의 소 그림을 두고 해외 AI는 그냥 '소'라고 답하지만 우리 모델은 '황소'라고 답할 수 있어야 한다는 비유로, 역사·문화적 맥락까지 담는 것이 소버린 AI의 의미라고 설명했다.

주요 인사이트

• 공공 AI의 제약(폐쇄망·검증 데이터·제한 목적)은 안전장치이자 동시에 확장의 걸림돌이다. 민감하지 않은 정보는 모아 공통 기반을 똑똑하게 만들고, 그 위에 기관별 특화 데이터를 얹는 2단 구조가 대안으로 제시됐다.
• AX를 부처별로 각자 추진하면 새로운 사일로가 만들어진다. 공통 기반이 밑에서 단단하게 받쳐줘야 개별 서비스가 제 역할을 한다는 지적이 반복됐다.
• 공공 데이터센터만으로는 상면과 전력이 부족해 민간 클라우드 활용이 불가피하다. 다만 행정 데이터를 다루는 만큼 보안 검증을 정부가 함께 들여다보는 구조가 필요하다는 의견이다.
• 미국은 민간 주도에 정부가 인증으로 뒷받침하고 중국은 국가 주도인 반면, 한국의 강점은 민관이 실제로 협업할 수 있다는 점이라는 진단이 나왔다.
• 국민 체감 관점에서는 '어느 부처 소관인지 찾기'와 '어려운 법령·행정 용어'가 가장 큰 불편으로 꼽혔다. 생성형 AI가 이 부분만 풀어줘도 공공 AX의 효용이 바로 드러난다는 것이다.

자주 묻는 질문

관련 AI 소식