AI 연구 도구의 책임·투명성·신뢰: 연구자 15명 인터뷰가 드러낸 문제와 대응 전략

핵심 메시지

• AI가 도구를 넘어 협업자 역할로 옮겨가면서, 연구 결과의 책임과 저작 주체를 둘러싼 질문이 새로 생겼다.
• 연구자들은 플랫폼이 어떻게 작동하는지 알 수 없다는 점과, AI 출력이 지나치게 단정적이라는 점을 가장 큰 문제로 꼽았다.
• 대응 전략은 자신이 아는 저자와 연구를 기준으로 삼는 사회적 검증, 그리고 손으로 직접 확인하는 수작업 검증이었다.
• 출력이 다들 비슷해지는 획일화 현상이 신뢰를 크게 떨어뜨렸고, 연구자들은 낮은 위험의 업무부터 맡기며 단계적으로 신뢰를 쌓았다.

쉽게 이해하기

마이크로소프트 선임 응용과학자 산자나 가우탐이 초기 단계 연구에서 AI 도구를 쓸 때 연구자들이 책임·투명성·신뢰를 어떻게 다루는지 조사한 결과를 발표했다. 텍사스대 오스틴에서 박사후연구원으로 있으면서 코스믹 AI와 협업해 진행한 연구이며, ACM FAccT에 게재됐다. 문제의식은 분명하다. AI가 단순한 도구가 아니라 협업자에 가까워지면서 판단의 책임이 누구에게 있는지, 결과물의 소유권은 어떻게 되는지가 흐려졌다는 것이다.

연구진은 두 가지 질문을 세웠다. LLM 기반 도구를 초기 연구 과정에 쓸 때 어떤 책임·투명성·신뢰 문제가 나타나는가, 그리고 연구자들은 그 문제를 관리하기 위해 어떤 전략을 만들어내는가. 이를 확인하기 위해 여러 분야의 연구자 15명을 대상으로 60~90분 화상 인터뷰를 진행하며 생각을 소리 내어 말하게 하는 방식을 썼고, 과제 전후 설문도 함께 받았다. 사용한 도구는 논문 관계를 그래프로 탐색하는 리서치 래빗과, 자연어 질의로 여러 논문을 요약하고 비교해주는 일리싯이었다. 인터뷰 자료는 귀납적 코딩으로 23개 하위 주제로 정리한 뒤 세 축으로 묶였다.

책임 축에서는 플랫폼의 불투명성과 AI 출력의 단정적인 어투가 문제로 지목됐다. 이에 맞서 연구자들은 자신이 평소 따라 읽는 저자인지, 검증됐다고 판단하는 연구인지를 기준 삼는 사회적 지식과 수작업 검증에 기댔다. 투명성 축에서는 채택 여부의 최종 판단을 반드시 자신이 쥐고, AI의 역할을 창의적이고 발상적인 작업이 아니라 정리와 주변 업무로 제한하는 모습이 나타났다. 신뢰 축에서는 신뢰 자체가 매우 약하게 형성돼 있었고, 특히 출력이 서로 비슷해지는 획일화가 신뢰를 크게 무너뜨렸다. 연구자들은 위험이 낮은 일부터 맡겨보고 잘되면 조금씩 더 어려운 일을 넘기는 점진적 신뢰 쌓기와, 부담이 적은 업무 위주로 배분하는 전략적 회피를 함께 썼다.

발표자는 이런 결과가 과학 연구에서 AI 도구를 천천히, 신중하게, 잘 규율된 방식으로 받아들여야 할 필요를 뒷받침한다고 결론지었다. 연구 무결성을 지키기 위한 조건이라는 것이다. 도구의 성능 자체보다, 그 도구가 만들어낸 판단을 누가 어떻게 책임질 것인지가 초기 연구 단계에서 이미 실질적인 문제로 떠올라 있다는 점이 이 조사의 핵심이다.

주요 인사이트

• AI 출력의 자신 있는 말투는 그 자체로 위험 요소다. 불확실성을 감추고 출처를 흐리면서 검증 부담을 사용자에게 조용히 떠넘긴다.
• 연구자들이 AI를 정리·주변 업무로 밀어두는 선택은 성능 부족 때문만이 아니라, 책임을 자신이 통제할 수 있는 범위에 두려는 전략에 가깝다.
• 출력 획일화가 신뢰를 떨어뜨린다는 관찰은, 다양성을 잃은 추천이 오히려 도구의 신뢰도를 갉아먹을 수 있음을 보여준다.
• 점진적 신뢰 쌓기라는 대응은 조직이 AI 도구를 도입할 때 참고할 만한 현실적 순서를 제시한다.

자주 묻는 질문

관련 AI 소식