AI 생산성 높이는 법 5가지 — 컨텍스트 엔지니어링·생각의 사슬·역질문 프롬프트

핵심 메시지

• AI는 '나쁜 소프트웨어지만 좋은 사람'에 가깝다. 도구가 아니라 유능하지만 거절을 잘 못하는 열성적인 인턴처럼 다뤄야 한다.
• 컨텍스트 엔지니어링은 강화된 프롬프트 작성이다. AI가 작업을 제대로 하려면 필요한 모든 정보(브랜드 보이스, 통화 녹취, 제품 사양 등)를 명시적으로 줘야 한다.
• AI는 기본적으로 '예'라고 답하도록 설계돼 칭찬으로 사용자를 현혹할 수 있다. 일부러 가혹한 평가자 역할을 시켜 비판적 피드백을 끌어내라.
• 프롬프트 끝에 '답하기 전에 사고 과정을 단계별로 설명해 달라'고 덧붙이는 생각의 사슬(chain of thought)이 출력 품질을 크게 높인다.
• AI를 가장 잘 쓰는 사람은 코더가 아니라 코치다. 좋은 예시·역할·제약·역질문으로 AI를 이끄는 사람이 최고의 결과를 얻는다.

쉽게 이해하기

스탠퍼드대에서 16년간 가르쳐 온 창의성·실용 AI 전문가 제레미 어틀리는 AI를 '나쁜 소프트웨어지만 좋은 사람'이라고 표현한다. AI는 끝없이 일하고 유능하지만 거절이나 경계 설정에 서툴고, 기본적으로 도움을 주려 하기 때문에 '예'라고 답하는 경향이 강하다는 것이다. 그래서 조심하지 않으면 AI가 사용자를 '가스라이팅'할 수 있다고 그는 말한다.

그가 강조하는 핵심은 '컨텍스트 엔지니어링'이다. 이는 프롬프트 엔지니어링을 한 단계 끌어올린 개념으로, AI가 원하는 작업을 수행하는 데 필요한 모든 것을 미리 제공하는 일이다. 예컨대 '영업 이메일을 써줘'라는 단순 프롬프트 대신, 업로드한 브랜드 보이스 가이드, 고객 통화 녹취, 제품 사양을 함께 참조하라고 지시하면 전혀 다른 결과가 나온다. 그는 '인간 동료에게 같은 지시문과 자료를 줬을 때 못 한다면, AI도 못 하는 게 당연하다'는 '인간성 테스트'를 제안한다.

AI의 '예스맨' 성향을 다루는 방법으로 그는 일부러 가혹한 평가자 역할을 부여한다. '냉전 시대 소련 올림픽 심판처럼 사소한 흠도 감점하며 혹독하게 평가해 달라'고 지시하면, 무조건적인 칭찬 대신 통찰력 있는 비판적 관점을 얻을 수 있다는 것이다. 그는 AI를 '거울'에 비유하며, 게을러지려는 사람은 더 게을러지고 비판적으로 사고하려는 사람은 더 날카로워진다고 말한다.

생각의 사슬(chain of thought)은 프롬프트에 '답하기 전에 사고 과정을 단계별로 보여 달라'는 한 문장을 더하는 것만으로 작동한다. 그는 이것이 대형 언어 모델이 한 번에 한 단어씩, 직전까지의 텍스트를 바탕으로 다음 단어를 예측하는 구조에서 비롯된다고 설명한다. 모델에게 먼저 사고 과정을 쓰게 하면 그 추론이 최종 답변에 반영되고, 사용자는 답의 근거와 가정을 함께 확인할 수 있다.

그 밖에도 그는 자신이 만족한 결과물 예시를 함께 주는 '퓨샷 프롬프팅', 모델이 필요한 정보를 먼저 사용자에게 묻게 하는 '역질문 프롬프팅', 특정 전문가나 인물의 사고방식을 부여하는 '역할 부여'를 제시한다. 어려운 대화 연습에는 성격 프로파일러·상대 캐릭터·피드백 제공자라는 세 개의 대화 창을 활용해 일종의 '비행 시뮬레이터'처럼 리허설하는 방법을 시연한다.

주요 인사이트

• AI를 '기술'이 아니라 '팀원'으로 보는 관점 전환이 활용법의 출발점이다. 좋은 관리자가 부하 직원에게 '모르면 언제든 물어보라'고 말하듯, AI에게도 질문할 권한을 줘야 한다.
• 스크롤되며 텍스트가 한 단어씩 나타나는 것은 UX 연출이 아니라 모델이 실제로 한 단어씩 예측하는 작동 방식 그 자체다. 이 구조를 이해하면 왜 생각의 사슬이 효과적인지 알 수 있다.
• 좋은 예시는 쉽지만 나쁜 예시를 떠올리기 어렵다면, AI에게 '좋은 예시의 정반대를 만들고 그 이유를 설명해 달라'고 시킬 수 있다. 때로는 나쁜 예시 자체보다 그 사고 과정이 더 유용하다.
• 역할이나 제약을 부여하는 것은 AI의 방대한 지식 중 어디에서 정보를 끌어올지 지정하는 일이다. '제리 사인펠드라면, 아마존이라면 이 문제를 어떻게 풀까'처럼 서로 다른 정보원을 충돌시키면 새로운 발상이 나온다.
• AI 활용의 진짜 한계는 기술이 아니라 인간의 상상력이다. 더 많은 사람의 상상력이 깨어날수록 '인접 가능성(adjacent possible)'이 넓어지며 가능한 응용의 범위가 확장된다.

자주 묻는 질문

관련 AI 소식