민감정보 파일에 AI 활용하는 법: PII 편집과 유용성의 균형, 작업 중심 접근

핵심 메시지

• '민감정보를 AI에 붙여넣지 말라'는 조언은 문제를 되돌려줄 뿐이다. 계약 검토·인사 평가처럼 민감한 일도 여전히 해야 할 일이고, AI를 포기하거나 손으로 다 정리하라는 것은 해법이 아니다.
• 핵심 원칙은 '파일이 아니라 작업에서 출발하라'다. 모델이 답을 내는 데 꼭 필요한 최소 맥락만 남기고, 파일에 '딸려 온' 개인식별정보(PII)·자격증명은 걷어낸다.
• 같은 정보라도 질문에 따라 필수일 수도, 무관할 수도 있다. 가격은 '가격을 평가해줘'에는 필요하지만 '이 운영계획을 무너뜨릴 가정은?'에는 필요 없다. 맥락과 의도가 판단을 좌우한다.
• Word 같은 파일은 주석·변경이력·작성자·외부 링크가 눈에 보이지 않게 남을 수 있어, 검은 사각형으로 가리기보다 승인한 내용만 새 파일로 재구성하고 원본은 그대로 두는 편이 안전하다.
• '민감한 건 붙여넣지 말라'는 규칙은 이제 현실적 운영 모델이 못 된다. 보안 피로가 쌓이면 가장 쉬운(승인 안 된) 경로가 이기며, 안전은 편의와 같은 경로 위에 놓여야 작동한다.

쉽게 이해하기

발표자는 이번 주 절대 업로드하지 않을 만큼 민감한 파일에 AI를 썼다고 말한다. 고객 이름·집주소·의료 메모·API 키·미공개 가격을 모두 제거한 뒤에도, 모델은 출시를 위협할 세 가지 핵심 가정을 찾아냈다. 모델은 '운영계획'이 필요했지 그런 개인정보가 필요했던 게 아니고, 원본은 컴퓨터에 남았으며 유용한 작업은 프런티어 모델이 그대로 해냈다. 이 문제의식에서 그는 직접 도구(Airlock)를 만들었고, 영상에서 무엇을 남기고 무엇을 지웠는지, 그리고 왜 그랬는지를 예시로 보여준다.

접근의 출발점은 '보호할 용어'를 사람이 정의하는 것이다. 'Project Lantern'처럼 기계에는 평범해 보이지만 사내에서는 극도로 민감한 문구가 있기 때문이다. 맥락의 상당 부분은 일하는 사람의 머릿속에만 있으므로, 도구에 그 맥락을 알려줘야 기계가 인식하는 패턴과 사용자가 지정한 용어를 함께 걸러낼 수 있다. 불확실하면 기본값은 '숨김'이고, 남기려면 '의도적으로' 남기기로 결정해야 한다.

무엇을 남길지는 작업이 결정한다. '세 창고가 같은 주에 이동한다', 'ERP 통합이 첫 청구 주기 전에 준비돼야 한다', '교육은 정규 근무 중에 진행된다' 같은 사실은 계획의 가정을 이루므로 남긴다. 반면 가상의 인물 앨리스의 집주소·이메일, 운영이사의 사적 의료 메모, 작업과 무관한 API 키는 남길 이유가 없다. 승인된 내용만으로 새 Word 문서를 다시 만들면, 원본은 손대지 않은 채 깨끗한 사본 하나만 검토하면 되고, 그 사본을 어떤 프런티어 모델에든 넘겨 '출시 전에 무너질 가능성이 큰 가정과 완화책'을 물을 수 있다.

왜 지금 이 문제가 새삼 절박한가? 몇 년 전만 해도 전형적인 AI 사용은 빈 채팅창에 던지는 일반적 질문이었지만, 이제 유용한 일의 상당수는 실제 제안서·계약서·정리 안 된 회의록·코드베이스 같은 '내 자료'에서 시작한다. 우리가 모델에 넘기려는 정보량이 수백~수천 배로 늘면서, 그 맥락 자체가 모델을 유용하게 만들지만 동시에 파일을 업로드하고 싶은 유혹도 커진다. 그 과정에서 '무엇을 내보내도 되는지' 판단하는 개인이 각자 하나의 프라이버시 필터가 되어버렸다.

발표자는 커뮤니티에서 들은 두 가지 상반된 실제 대응을 대비시킨다. 한쪽은 학습 끔·범위 제한 커넥터 등 책임 있는 설정을 갖추고도 '솔직히 인정하는 것보다 더 신뢰에 의존하고 있다'고 했고, 의료계의 다른 이는 한 번의 유출 비용이 너무 커 '가장 가치 있는 데이터는 아예 AI에서 떼어 놓는다'고 했다. 나아가 Verizon의 기업 원격측정에서 회사 기기로 최소 15일에 한 번 AI를 쓴 직원 비율이 15%→45%로 늘고, 그중 2/3가 비회사 계정으로 접속했으며(섀도 IT), 외부 시스템 관련 데이터 정책 사건에서 가장 흔히 제출된 자료가 소스코드였다는 점을 든다. 그는 이를 '무책임한 직원'이 아니라 '승인된 경로가 왜 이렇게 쓰기 어려운가'의 문제로 봐야 한다고 말한다.

주요 인사이트

• 리댁션(민감정보 삭제)은 '모델이 여전히 도움 될지'를 신경 쓰지 않으면 쉽지만, 신경 쓰면 어렵다. 이름·숫자·날짜·관계·가격을 다 지우면 완벽하게 비어 있지만 쓸모없는 문서가 된다.
• 판단의 축은 '의도'다. 계약서에서 갱신일·특이 면책조항을 찾게 하려면 조항과 날짜는 필요하지만 서명자의 집주소는 필요 없다. 협상 가격은 숫자가 필요하지만, 표지 이메일을 다시 쓰는 일이라면 필요 없을 수 있다.
• 리댁션이 오히려 틀린 경로일 때도 있다. 전체 의료 기록 자체가 분석 가치의 원천이라면 민감정보를 지우는 순간 작업이 사라진다. 그런 일은 전체 기록을 다루도록 설계된 통제된 환경에 속하거나, AI를 아예 쓰지 말아야 한다.
• NIST가 말한 '보안 피로'처럼 같은 보안 결정이 쌓이면 가장 쉬운 선택이 이긴다. 스마트폰이 카메라 권한을 그때그때 묻고 브라우저가 인증서 검증을 대신하듯, AI도 안전을 편의와 같은 경로에 두는 설계가 필요하다.
• AI는 지능을 거의 마찰 없이 만들어 놓고, '무엇을 내보내도 되는지'의 부담은 정책 페이지·관리 콘솔·문서 메뉴에 흩어 사용자 기억에 떠넘겼다. 이 구조가 승인 안 된 경로를 더 쉽게 만든다.

자주 묻는 질문

관련 AI 소식