MIT 미디어랩 개드플라이(Gadfly), 비판적 질문을 던지는 대화형 AI 실험

핵심 메시지

• MIT 미디어랩 C3 연구진이 만든 AI 에이전트 '개드플라이'는 사용자의 말에 동조하는 대신 그 주장의 허점을 겨냥한 질문을 던진다.
• 연구의 출발점은 새로운 대화 상대가 된 AI가 사람들의 대화 건강성에 어떤 영향을 주는지에 대한 문제의식이다.
• AI가 단순한 질의응답 기계일 때보다 '비판적 자극자' 역할을 할 때 더 좋은 결과를 낸다는 선행 연구를 모델로 삼았다.
• 실제 수업 시연에서 개드플라이는 때로 대화의 핵심을 정확히 짚어내지만, 상당수의 경우 완전히 빗나가기도 한다고 연구자는 인정한다.
• 이 도구의 목표는 답을 알려주는 것이 아니라 자기 생각을 더 엄밀하게 검토하도록 자극하는 것이다.

쉽게 이해하기

대화는 인류의 가장 오래된 기술 중 하나이고, 개인 혼자서는 풀 수 없는 문제를 함께 푸는 방식이었다. MIT 미디어랩 연구자 옴은 인공지능이라는 새로운 대화 상대가 등장하면서 이 대화의 건강성이 어떻게 달라지는지에 관심을 두게 됐다고 말한다. 그와 동료 맥스, MIT의 연구자 아슈릿은 이 질문에서 출발해 '개드플라이(Gadfly)'라는 AI 에이전트를 만들었다.

개드플라이의 설계 원칙은 단순하다. 사용자가 듣고 싶어 하는 말을 해주지 않는 것이다. 대신 방금 내놓은 주장에 대해 비판적인 질문, 즉 핵심을 파고드는 질문을 던진다. 영상 속 시연에서 개드플라이는 참가자들이 '관계적 신뢰'라는 말을 반복하자 그 개념이 실제로 무엇을 설명하는지 명확히 하지 않았다고 지적하며, 개인적 관계가 사람의 믿음 자체를 바꾸는지 아니면 겉으로 말할 수 있는 범위만 바꾸는지 되묻는다.

이 연구가 나온 C3(건설적 커뮤니케이션 센터)는 그동안 온라인 허위정보를 연구해 왔다. 연구진은 오늘날 허위정보와 온라인이 사실상 붙어 있는 상태이며, 인터넷에서 의견 충돌을 생산적으로 다루는 일 자체가 어려워졌다고 본다. 맥스는 얼음물에 함께 들어가면 서로 공통점을 발견하게 되듯, 생산적인 이견을 유도할 동력을 인터넷 안에 심을 수 있다면 의미가 있을 것이라고 표현한다.

개드플라이는 발데마르 단리의 선행 연구를 모델로 삼았다. AI가 단순히 질문을 받고 답을 내놓는 기계로 작동할 때보다, 비판적으로 자극하는 역할을 할 때 더 나은 성능을 보인다는 착안이다. 연구진은 실제로 몇몇 수업에서 이 도구를 시연했고, 데브 로이 같은 참여자들과의 대화에서 개드플라이가 '진리가 권위에서 나오지 않는다면 어디에서 나오는가' 같은 질문으로 논점을 되짚는 장면이 나온다.

다만 연구자 스스로 성능의 한계를 분명히 밝힌다. 어떤 때는 정말 훌륭하게 작동해 사람들이 자기 발언을 다시 생각하게 만들지만, 상당히 많은 경우 완전히 핵심을 빗나간다는 것이다. 그럼에도 이런 도구가 자기 의견에 대한 책임감을 유지시켜 준다는 점, 특히 잘 정리되지 않은 생각을 유창하게 말하려는 유혹을 견제해 준다는 점에서 가치가 있다고 본다.

주요 인사이트

• 챗봇의 기본값이 '동조'라는 점 자체가 설계 선택이며, 반대로 '반문'을 기본값으로 두는 것도 가능하다는 사실을 보여주는 사례다.
• AI를 정답 제공자가 아니라 사고를 자극하는 상대로 쓰면, 답의 정확도보다 사용자의 사고 과정이 평가 기준이 된다.
• 연구자가 '자주 빗나간다'고 솔직히 인정하는 대목은, 이런 도구가 아직 완성품이 아니라 교실 안 실험 단계에 있음을 보여준다.
• 잘 모르는 주제를 유창하게 말하려는 유혹은 어디에나 있고, 반박 질문을 던지는 도구는 그 지점에서 지적 겸손의 출발점이 될 수 있다.
• 허위정보 연구에서 출발한 문제의식이 '개인의 대화 습관'이라는 미시적 층위로 내려온 점이 흥미롭다.

자주 묻는 질문

관련 AI 소식