AI를 1만 시간 써보고 얻은 실전 활용 40가지 교훈: 생산성을 높이는 진짜 방법

핵심 메시지

• 맥락은 많다고 좋은 게 아니다. 잡동사니를 쏟아붓기보다 가장 깔끔하고 구체적인 지시를 줘야 하며, 과하면 정작 중요한 내용이 묻히는 '맥락 부패'가 일어난다.
• 완벽한 프롬프트를 다듬느라 시간을 쓰기보다, 원하는 결과의 좋은 예시 3~5개를 보여주는 편이 훨씬 빠르고 정확하다.
• AI에게 답을 구하지 말고 논쟁하라. 무엇이든 동의하는 응원단이 아니라 허점을 찌르는 냉정한 멘토 역할을 시켜야 생각이 단단해진다.
• 궁극적인 목표는 'AI를 쓰는 것'에서 'AI가 대신 돌아가게 하는 것'으로 옮겨가, 사람은 실행자가 아니라 방향을 정하는 감독이 되는 것이다.

쉽게 이해하기

발표자는 AI를 쓰는 직원의 77%가 오히려 생산성이 떨어졌다고 답한다는 통계로 시작한다. 그는 하루 수천 달러의 토큰을 낭비하던 상태에서, 16개월 만에 기업 가치 2억 5천만 달러에 육박하는 회사 포트폴리오의 근간으로 AI를 활용하게 되기까지 얻은 40가지 교훈을 풀어놓는다.

프롬프트에 관한 교훈이 앞부분을 차지한다. 맥락은 무조건 많이 넣기보다 깔끔하고 구체적으로 줘야 하고, 완벽한 문장을 고민하기보다 좋은 예시를 몇 개 보여주는 것이 낫다. AI는 마음을 읽지 못하므로 역할과 상황, 원하는 바를 분명히 적어야 하며, 대충 넣으면 대충 나온다. 타이핑 대신 음성으로 지시하면 3배 빠르게 생각을 전달할 수 있다는 점도 짚는다.

검증과 반복도 강조된다. AI의 첫 결과물은 완성본이 아니라 다듬어야 할 초벌이며, '진짜 좋은 결과는 3라운드에 나온다'고 말한다. 또 다른 AI에게 결과물을 검토시켜 피드백을 반영하면 스스로 다툰 끝에 더 정제된 버전이 나온다. 속도는 믿되 정확성은 반드시 사람이 확인해야 하는데, AI는 자신감 있게 틀린 답을 내놓기 때문이다.

발표자는 도구에 대한 집착을 경계한다. 새 모델이 매주 나와도 이미 완성한 워크플로가 미완성 실험보다 낫고, 숫자를 움직이지 못하는 AI 활용은 취미일 뿐이라고 말한다. 손으로 해본 적 없는 일은 자동화할 수 없고, 매주 바뀌는 프로세스는 자동화 대상이 못 된다. 반복 가능하도록 안정된 절차부터 고정하라는 것이다.

마지막으로 그는 조직 운영으로 시야를 넓힌다. 사람을 뽑기 전에 토큰으로 해결할 수 있는지 먼저 묻고, 반복적이고 소모적인 일은 기계에 넘겨 사람은 더 인간적인 문제에 집중하게 하라고 권한다. 특히 'AI는 부서가 아니라 조직이 일하는 방식'이며, 리더가 직접 쓰지 않으면 팀도 겉핥기에 그친다는 점을 강조한다.

주요 인사이트

• AI를 '지시하는 대상'이 아니라 '위임하는 시스템'으로 볼 때 진짜 생산성이 나온다. 사람은 일에서 빠지고 검토자로 남는 전환이 핵심이다.
• 반복 불가능한 한 번의 대박 프롬프트는 실력이 아니라 운이다. 마법 같은 결과가 나오면 그 뒤의 시스템 프롬프트를 저장해 언제든 재현할 수 있게 만들어야 한다.
• 리더가 곧 조직의 한계선이다. 리더가 AI를 대충 다루면 팀도 딱 그만큼만 쓴다. AI 도입은 설득이 아니라 리더가 쓰는 모습을 보여주는 일이다.
• 망가진 프로세스에 AI라는 연료를 부으면 더 빨리 터진다. 먼저 시스템을 고치고 그 위에 AI를 얹어야 확장된다.

자주 묻는 질문

관련 AI 소식