AI 탈숙련과 중독, AI 안전 연구가 놓친 위험 — 코펜하겐대 FAccT 2026 논문 리뷰

핵심 메시지

• 2025년 주요 AI 학회에 실린 논문 1만 8천 편 가운데 AI가 인간의 인지와 정신건강에 미치는 영향을 다룬 논문은 10편에 불과했고, 탈숙련을 다룬 논문은 한 편도 없었다.
• 현재 AI 안전 연구는 차별·유해 콘텐츠·잘못된 정보·악의적 사용 네 가지에 집중돼 있어, 정작 도구를 쓰는 사용자 자신의 능력과 정신 상태는 논의에서 빠져 있다.
• 에세이 작성 실험에서 생성형 AI를 쓴 집단은 뇌 연결성이 가장 낮았고 자신이 쓴 글조차 기억하지 못했으며, 대장내시경 연구에서는 AI에 익숙해진 의사가 AI 없이 수행하는 능력이 떨어졌다.
• 약 1천 명을 4주간 관찰한 연구에서 사용 시간이 길수록 외로움과 정서적 의존이 커졌고, 특히 정서적으로 취약하거나 AI를 친구로 여긴 사람에게서 그 경향이 뚜렷했다.
• 논문은 답을 즉시 내놓는 대신 되묻는 '비판적 AI 피드백'과, 도움의 정의에 사용자의 안녕을 포함시키는 학습 보상 설계를 대안으로 제시한다.

쉽게 이해하기

코펜하겐대 연구진이 공정성·책임성·투명성 학회인 FAccT 2026에 발표한 논문은 제목부터 도발적이다. 우리말로 '뇌 썩음'에 해당하는 브레인롯을 제목으로 걸고, 부제에서 탈숙련과 중독이 간과된 AI 위험이라고 못 박는다. 논문의 출발점은 연구 지형 자체에 대한 진단이다.

연구진이 센 숫자는 이렇다. 2025년 주요 AI 학회에 실린 논문 1만 8천 편 중 AI가 사람의 인지와 정신건강에 미치는 영향을 다룬 것은 10편이었다. 그중 탈숙련을 정면으로 다룬 논문은 없었고 중독을 다룬 것은 두 편이었다. 반면 현실에서는 2025년 중반 기준 ChatGPT 사용자가 7억 명에 이르렀고, 그해 사용 용도 1위는 콘텐츠 제작이나 정보 검색이 아니라 치료와 정서적 동반이었다. 삶을 정리하고 목적을 찾는 용도가 새로 등장했고, 개인적 지원이 전체의 31%를 차지했다.

핵심 개념은 인지 부하 덜기다. 계산기에 계산을 맡기듯 생각의 일부를 외부 도구로 넘기는 것인데, 문제는 생성형 AI가 어디까지 넘겨받느냐다. 에세이를 쓰게 하면서 아무 도구도 없는 집단, 검색 엔진을 쓴 집단, 생성형 AI를 쓴 집단으로 나눈 실험에서 외부 도움이 커질수록 뇌 연결성과 활성이 체계적으로 낮아졌다. 생성형 AI 집단은 뇌 연결성이 가장 낮았고, 자기가 쓴 글의 일부를 기억해 내지 못했으며, 글이 자기 것이라는 소유감도 낮았다. 4개월 동안 신경·언어·행동 모든 수준에서 뒤처졌다.

학생만의 문제가 아니다. AI 보조 유무를 무작위로 배정해 비교한 대장내시경 연구에서, AI에 계속 노출된 의사들은 AI 없이 수행하는 능력이 실질적으로 떨어졌다. 연구자들은 AI의 추천을 지나치게 믿게 되면서 판단할 때의 동기와 집중, 책임감이 줄어든 결과로 본다. 비판적 사고가 사라졌다기보다 질문을 잘 쓰는 일, 답을 사실 확인하는 일, 결과를 다듬는 일로 자리를 옮겼다는 해석도 함께 나온다. 다만 사람들이 비판적 사고를 가장 많이 발휘하는 상황은 법적 책임처럼 위험이 큰 경우였다.

두 번째 위험은 중독이다. 연구자들은 만족스러운 답이 주는 강화, 현실을 피하려는 도피, 대화하듯 쓰다 보니 생기는 의인화를 축으로 '생성형 AI 중독 증후군'이라는 개념을 제시한다. 2026년 현재 국제 질병 분류에 등재된 공식 진단명은 아니다. MIT 미디어랩과 OpenAI가 함께 약 1천 명을 4주간 관찰한 연구에서는 사용 시간이 길수록 외로움이 커지고 실제 사람과의 교류가 줄었으며 정서적 의존이 높아졌다. 529명을 설문한 다른 연구에서는 사람처럼 느껴지고 개인화될수록 애착이 강해졌다.

그렇다면 왜 이 위험이 뒷전이었을까. 논문은 규제가 있는 영역부터 대응한다는 점, 기업이 경제적 이익을 따른다는 점, 눈에 보이는 위협이 우선이라는 점, 측정하기 쉬운 것부터 손댄다는 점, 학계가 산업의 방향을 따라간다는 점을 꼽는다. 특히 측정 문제가 크다. 유해한 답변 하나는 그 자리에서 판정할 수 있지만, 능력이 무뎌지는 일은 여러 대화에 걸쳐 오랜 시간을 두고 봐야 보인다. 해법으로는 답을 즉시 내놓는 대신 가끔은 되묻게 하는 '비판적 AI 피드백'이 제안된다.

주요 인사이트

• AI 안전 논의의 사각지대는 모델이 아니라 사용자 쪽에 있다. 유해 콘텐츠나 악용은 모델의 출력에서 바로 확인되지만, 능력 저하와 의존은 사람 쪽에서 시간을 두고 나타나기 때문에 같은 잣대로 측정되지 않는다.
• 탈숙련은 초심자만의 문제가 아니다. 전문 의료진조차 AI 보조에 익숙해진 뒤 AI 없는 수행 능력이 떨어졌다는 결과는, 숙련도가 사용을 보호해 주지 않는다는 점을 보여준다.
• AI에 가장 크게 영향을 받는 쪽이 도움이 가장 필요한 사람이라는 점이 뼈아프다. 정서적으로 취약하거나 AI를 친구로 여긴 참가자에게서 외로움과 의존 증가가 더 뚜렷했다.
• 시스템 프롬프트에 '사용자의 인지 능력을 보호하라, 긴 답변보다 질문으로 대화를 이끌어라'를 넣는 것만으로 AI가 되묻기 시작하고 사용자가 스스로 확인하는 행동이 늘었다. 조치의 난이도가 낮다는 뜻이다.
• 다만 사용자가 덜 쓰게 만드는 설계에 기업이 나설 경제적 유인은 없다. 논문이 공공 정보 캠페인과 규제를 함께 요구하는 이유다.

자주 묻는 질문

관련 AI 소식