AI 슬롭 문제와 서브스택의 대응: AI 글 판별 표시와 '제작 과정 밝히기' 실험

핵심 메시지

• 문제의 기준은 AI를 썼는지가 아니라, 만든 사람이 그 결과물을 정말로 믿고 내놓았는지에 있다
• AI 글 판별 서비스의 측정에 따르면 한 대형 소셜 플랫폼의 장문 글 중 약 40%가 생성된 것으로 나타났다고 소개된다
• 서브스택은 금지 대신 투명성을 택해, 긴 글을 판별 도구로 확인해보는 기능과 제작 과정을 스스로 밝히는 칸을 먼저 열었다
• 글자를 검사하는 도구만으로는 부족하고, 아이디어가 얼마나 평균에서 벗어나 있는지를 재는 방법이 필요하다는 제안이 나왔다
• 모델이 아무리 좋아져도 늘어나지 않는 유일한 자원이 사람의 주의력이라는 점이 대화의 결론에 가깝다

쉽게 이해하기

대담에 나온 서브스택 공동창업자는 '슬롭'을 아무도 진심으로 믿지 않는 콘텐츠로 넓게 정의한다. 스팸부터 낚시성 제목, 영혼 없는 일반론까지가 모두 여기에 들어가며, 자신들이 만드는 서비스는 그 반대편에 서 있다고 말한다. 최근 1년 사이 인터넷의 여러 공간이 대충 만들어진 글로 채워지는 느낌을 받았고, 그것이 이번 논의를 시작한 계기였다고 밝힌다.

판단의 근거로 언급된 것은 AI 텍스트 판별 서비스가 내놓은 수치다. 한 대형 소셜 플랫폼의 장문 글 가운데 약 40%가 생성된 것으로 측정됐다는 통계가 특히 인상적이었다고 한다. 다만 두 사람 모두 'AI로 쓴 것'과 '슬롭'을 같은 말로 보지 않는다는 점을 분명히 한다. 모든 AI 글이 슬롭은 아니고, 모든 슬롭이 AI에서 나오는 것도 아니라는 것이다.

진짜 문제는 읽는 사람이 매번 "이게 진짜인가"를 의심해야 하는 상태에 놓인다는 데 있다. 인터뷰에서는 새로 등장한 필자의 글을 아예 읽지 않게 됐다거나, 댓글창에서 긴 대화를 나눈 뒤에야 상대가 사람이 아니었음을 깨닫고 댓글 자체를 끊었다는 사례가 언급된다. 대량 생성된 글이 공론장을 향한 서비스 거부 공격처럼 작동한다는 표현이 나오는 이유다.

플랫폼의 첫 대응은 규제가 아니라 정보 공개다. 긴 글에 대해 판별 도구의 추정 결과를 확인해볼 수 있게 하고, 글쓴이가 자신의 제작 과정을 설명해 붙일 수 있는 칸을 함께 제공한다. 다만 이 판별은 '정성을 들였는가'를 재는 것이 아니라 '텍스트가 언어모델을 거쳤는가'를 추정할 뿐이라는 한계도 함께 짚는다. 어떤 규범이 자리 잡아야 하는지는 커뮤니티가 함께 정해가야 한다는 것이 이들의 입장이다.

대화의 후반부는 판별 기술 너머로 넘어간다. 진행자는 언어모델이 특정한 표현과 개념 주변으로 몰리는 성향이 있어, 사람의 폭넓은 발상 분포와 모델의 좁은 분포를 지도처럼 비교하는 도구가 있으면 좋겠다고 제안한다. 글자가 아니라 생각을 재자는 것이다. 두 사람은 값이 싸진 것들 사이에서 무엇이 여전히 귀한지를 묻고, 아무리 모델이 좋아져도 배로 늘릴 수 없는 사람의 주의력이 마지막 희소 자원이라는 데 뜻을 모은다.

주요 인사이트

• AI 사용을 금지하는 대신 드러내는 접근은 규범이 아직 없는 영역에서 현실적인 선택이다. 어디까지가 괜찮은 사용인지에 대한 답을 플랫폼이 혼자 정하지 않겠다는 뜻이기도 하다.
• 판별 도구는 만능이 아니다. 모델이 사람처럼 쓰도록 따로 조정되면 점수가 낮게 나올 수 있고, 반대로 사람이 열일곱 번 고쳐 쓴 글이라도 최종 문장이 모델을 거쳤다면 생성된 것으로 표시될 수 있다.
• 인터뷰에 나온 창작 방식은 참고할 만하다. 먼저 자기 생각을 길게 말로 쏟아낸 뒤 모델과 주고받으며 다듬되, 결과물이 원래 주장보다 무뎌지면 되돌리라고 강하게 요구하는 식이다.
• 언어모델은 요청하지 않아도 특정 주제에 늘 비슷한 항목을 끼워 넣는 성향이 있다는 지적이 나온다. 평균값에 끌리는 이 성질이 글의 개성을 깎는 지점이다.
• 가치 있는 글의 신호로 제시된 것은 조회수가 아니라 '머릿속에 남아 계속 곱씹게 되는가'였다. 독자를 얼마나 바꿔놓았는지를 재자는 발상이다.

자주 묻는 질문

관련 AI 소식