AI 데이터 프라이버시: 챗봇에 입력한 정보가 저장되는 네 곳과 설정으로 통제하는 법

핵심 메시지

• 모델 자체는 대화가 끝나면 아무것도 들고 있지 않다. 다음 대화가 나를 아는 것처럼 보이는 이유는 계정에 저장된 '제품 메모리' 때문이다.
• 입력한 정보는 대화 안, 제품 메모리, 제공업체의 자체 시스템, 미래 모델 학습이라는 네 가지 용도로 쓰일 수 있다.
• 제공업체마다 정책이 다르므로 개인정보 처리방침과 데이터 보관 설정을 직접 확인하는 것이 유일하게 확실한 방법이다.
• 학습에 쓰인 대화는 원문 그대로 모델 안에 저장돼 다른 사용자에게 읽히는 것이 아니라 패턴으로 남는다.
• 이메일 문구를 다듬는 정도의 작업에는 실명 대신 자리표시자를 넣어도 결과의 값어치가 같다.

쉽게 이해하기

사람들은 회사에서 공개적으로 말하지 않을 이야기를 매일 AI에 입력한다. 건강 문제, 돈 걱정, 보내기 망설여지는 이메일 초안 같은 것들이다. 그래서 "이 AI가 나에 대해 대체 무엇을 알고 있는가"라는 질문은 정당하다. 앤트로픽 교육팀의 조이(Zoe)는 클로드를 쓰든 다른 도구를 쓰든 참고할 수 있는 틀을 제시하면서, 세부 정책은 업체마다 다르니 반드시 각자 확인하라는 단서를 먼저 달았다.

설명의 출발점은 간단한 질문이다. 내가 공유한 한 조각의 정보는 채팅 창을 닫는 순간 어떻게 되는가. 예로 든 것은 생일 선물 상담이다. "파트너가 등산을 좋아하고 우리는 덴버 근처에 산다"고 말하면, 그 대화가 이어지는 동안 AI는 그 정보를 쥐고 답한다. 그러나 모델 자체는 대화가 끝나면 그 맥락을 놓는다. 내일 새 창을 열면 파트너의 취향을 다시 알지 못한 채 백지에서 시작한다.

두 번째 용도가 제품의 메모리다. 많은 도구가 대화 사이의 세부 정보를 저장하는데, 이것은 모델이 기억하는 것이 아니라 계정에 저장된 항목을 새 대화에서 모델이 참조하는 구조다. 제품에 따라 기본으로 켜져 있기도 하고 사용자가 켜야 하기도 하며, 대부분은 수정·삭제하거나 메모리 기능 자체를 끌 수 있다. 세 번째는 제공업체의 자체 시스템이다. 서비스 유지, 안전 및 남용 검토, 버그 수정, 연구, 광고 게재 같은 상업적 목적, 그리고 해당하는 경우 모델 개선까지 개인정보 처리방침이 허용하는 범위가 여기에 들어간다.

네 번째가 미래 모델 학습이다. 일부 제공업체는 대화를 다음 버전의 모델을 개선하는 데 쓸 수 있다. 다만 학습에 쓰기 전 개인정보는 일반적으로 제거되고, 대화가 모델 안에 그대로 담겨 다른 사용자에게 읽히는 방식도 아니다. 채팅을 닫는 순간 내가 쓴 문장은 더 이상 '내 정확한 표현'이 아니라 패턴이 된다는 것이 발표자의 표현이다. 대화를 학습에 쓰는 곳이라도 거부(opt out) 선택지를 두는 경우가 많다.

그래서 실천은 네 가지 습관으로 정리된다. 첫째, 몇 분을 들여 설정을 훑어본다. 메모리, 대화 기록, 연결된 앱, 학습 사용 토글은 보통 계정 또는 개인정보 설정에 모여 있다. 둘째, 일률적인 금지 규칙 대신 자기 기준으로 공유 범위를 정한다. 셋째, 마음에 걸리는 정보는 빼고 자리표시자로 바꾼다. 넷째, 민감도에 맞는 제품을 고른다. 일상 용도는 소비자용으로 충분하지만 업무상 기밀이나 규제 대상 데이터는 데이터 처리 조건이 다른 비즈니스·엔터프라이즈 요금제를 확인하라는 조언이다.

주요 인사이트

• "AI가 나를 기억한다"는 통념과 달리, 재방문 시 나를 아는 주체는 모델이 아니라 계정에 붙은 저장소다. 그래서 통제 지점도 모델이 아니라 설정 화면에 있다.
• 학습에 쓰인 문장이 원문이 아니라 패턴으로 남는다는 설명은, 사후 삭제 요청이 언제나 완전한 원상복구를 뜻하지는 않는다는 점을 시사한다.
• 발표자는 "이것은 절대 넣지 말라"는 목록 대신 용도별로 판단하라는 틀을 제시했다. 규칙보다 구조를 이해하는 쪽이 오래 간다는 접근이다.
• 실명 대신 자리표시자를 넣어도 결과가 같은 작업이 많다는 지적은, 비용을 거의 들이지 않고 위험을 줄이는 실용적인 방법이다.
• 소비자용과 기업용의 차이를 기능이 아니라 데이터 처리 약관의 차이로 설명한 점은, 업무 도입을 검토하는 사람에게 실질적인 판단 기준이 된다.

자주 묻는 질문

관련 AI 소식