AI 거버넌스 프레임워크를 골라도 남는 공백, 중견기업 이사회가 마주한 실행의 문제

핵심 메시지

• 기업이 AI 거버넌스에서 막히는 지점은 프레임워크의 부재가 아니라, 여러 프레임워크를 읽은 뒤 무엇을 실행할지가 정해지지 않는 데 있다.
• 국가 차원의 AI 지침, OECD 원칙, 금융감독기구의 기술 리스크 관점, 산업별 표준은 각각 신뢰할 만하지만 서로 맞물려 작동하도록 만들어지지 않았다.
• 전담 리스크·기술 조직을 갖춘 대기업과 달리 중견기업은 그런 전제 없이 지금 당장 도입 결정을 내려야 한다.
• SaaS 공급사들이 제품에 AI 에이전트를 이미 끼워 넣고 있어, 기업이 직접 도입을 결정하지 않아도 제3자 리스크가 따라온다.
• 해법은 하나의 프레임워크를 고르는 것이 아니라 조직의 목적·사명·이해관계자 기대라는 렌즈로 여러 지침을 해석해 섞는 일이다.

쉽게 이해하기

호주 AI 안전 포럼 2026에서 AI 거버넌스 자문가 버나데트 하킨(Bernadette Harkin, Lucentis Advisory 창업자)은 앞선 연구 발표들과는 결이 다른 이야기를 꺼냈다. 그는 이사회와 경영진을 상대로 AI 거버넌스를 자문하는 일을 하고 있으며, 포럼에서 논의된 것들이 결국 평범한 조직에 내려와 실행돼야 한다는 점에서 자신의 자리를 설명했다. 강연 제목은 지하철 승강장의 '틈을 조심하라'는 경고를 빌린 것이었다.

그가 말한 틈은 열차와 승강장 사이가 아니라, AI 거버넌스 프레임워크를 고르는 일과 실제로 AI를 통치하는 일 사이의 거리다. 지금 많은 이사회에게 프레임워크 선택은 마치 어느 편에 설지 고르는 일처럼 느껴진다. 국가 차원의 AI 지침, OECD 원칙, 금융감독기구의 기술 리스크 관점, 각종 산업단체 권고가 나란히 놓여 있고 그 위에 분야별 표준과 국제 문서까지 얹힌다. 각각은 신뢰할 만하고 저마다 주의를 요구하지만, 상자에서 꺼내 그대로 맞물리게 만들어져 있지는 않다.

그래서 그가 가장 자주 듣는 질문은 'AI를 통치해야 하느냐'가 아니라 '어떻게, 그리고 어느 프레임워크로 해야 하느냐'다. 강연자는 이 질문 자체가 함정이라고 말했다. 국제 AI 안전 보고서가 리스크 지형을 촘촘히 정리해 두었지만, 그것을 읽고 대응할 수 있는 조직은 전담 리스크·기술 조직을 갖춘 큰 기업들이다. 중견 규모 조직의 이사회는 '지금 가진 자원으로 프런티어 기술의 시대를 어떻게 지나갈 것인가'라는 다른 질문 앞에 서 있다.

보고서는 더 근본적인 문제도 드러낸다. 조직은 모델이 어떻게 학습되고 어떻게 추론하는지에 종속돼 있고, 동시에 대형 SaaS·소프트웨어 플랫폼 공급사들이 자사 제품에 AI 에이전트를 끼워 넣는 방식에도 종속돼 있다. 통제하지 못하는 제3자 리스크가 커지는 구조다. 성능이 제대로 관리되지 않으면 배치 자체가 고위험 행위가 된다는 점에서 신뢰성과 일관성 문제가 현실적인 질문으로 바뀐다.

경쟁 압력도 있다. 강연자는 보고서가 앞으로 몇 년 안에 특정 과학 분야에서 연구자 수준의 성능을 낼 가능성을 언급한다는 점을 들며, 그것이 경쟁사의 손에 있는 상황을 상상해 보라고 했다. 오용·오작동·시스템 리스크는 사라지지 않는데 전통적 리스크 관리 절차는 애초에 그런 것을 담도록 설계되지 않았다. 그가 제시한 방향은 프레임워크를 고르는 대신 조직의 핵심 가치·사명·목적, 그리고 이해관계자가 실제로 기대하는 것을 기준으로 여러 지침을 읽어 섞는 것이다. 그렇게 하면 마비도 무모함도 아닌, 절제되고 균형 잡힌 배치가 나온다는 것이 결론이었다.

주요 인사이트

• 프레임워크 선택을 '편 가르기'처럼 느끼게 만드는 구조 자체가 의사결정을 지연시킨다. 문서가 부족한 게 아니라 문서들 사이를 해석해 줄 사람이 부족하다.
• 리스크의 상당 부분이 조직 밖에서 결정된다. 모델의 학습·추론 방식과 공급사가 제품에 에이전트를 심는 속도는 도입 기업이 통제할 수 없고, 이는 통제 범위를 다시 정의하라는 요구다.
• 전통적 리스크 관리 절차는 오용·오작동·시스템 리스크를 포착하도록 만들어지지 않았다는 지적은, 기존 위험관리 위원회에 AI 항목을 한 줄 추가하는 방식으로는 부족하다는 뜻이다.
• 목표가 '마비도 무모함도 아닌' 절제된 배치라면, 거버넌스는 도입을 막는 장치가 아니라 속도를 지탱하는 장치로 이해돼야 한다.
• 강연자는 규제와 안전 연구가 모델을 더 예측 가능하고 관측 가능하게 만드는 작업을 환영하면서도, 열차는 이미 출발했다고 표현했다. 오늘의 실행 공백은 그 작업이 끝나기를 기다려 주지 않는다.

자주 묻는 질문

관련 AI 소식