AI 에이전트 책임론: 엔지니어가 코드를 넘어 소유해야 할 것 — 애디 오스마니 강연 정리

핵심 메시지

• 미래의 엔지니어는 단순히 코드를 짜는 사람이 아니라, 무엇을 만들 가치가 있는지 고르고 그 결과에 대한 '책임(answerability)'을 지는 사람이다.
• 에이전트는 실행·라우팅·병합·에스컬레이션을 대신할 수 있지만, 일이 잘못됐을 때의 결과(blast radius)를 물려받을 수는 없다. 책임은 사람의 몫이다.
• 생성 비용이 싸졌다고 검토 비용까지 싸지는 것은 아니다. 대다수가 AI 코드를 온전히 믿지 못하면서도 절반만 커밋 전 검증한다는 점에서 '대역폭 없는 불신'이 위험 요소다.
• 피해야 할 세 가지 함정: 이해력이 잠식되는 인지 부채, 검증 없이 AI 답을 받아들이는 인지 항복, 병렬 에이전트를 과도하게 굴리는 오케스트레이션 세금.
• 속도·기억·안목 같은 개별 능력의 반감기는 모델 한 번의 출시로 짧아지지만, 신뢰와 전문성이라는 '서명'의 반감기는 훨씬 길다.

쉽게 이해하기

AI 엔지니어 컨퍼런스 무대에 오른 애디 오스마니는 에이전트가 점점 더 많은 작업을 자동으로 처리하는 지금, 엔지니어의 정체성을 '판결(verdict)'과 '책임(answerability)'이라는 말로 다시 정의한다. 그가 말하는 판결은 무엇을 배포하고, 무엇을 막고, 무엇을 되돌리며, 어떤 위험은 감수할지 결정하는 프로덕션 의사결정을 뜻한다. 품질이 증거를 만든다면, 판결은 책임을 배정하고, 책임감이 있어야 비로소 그 판결 뒤에 설 수 있다는 것이다.

그는 이 변화가 왜 지금 일어나는지를 하네스 엔지니어링에서 루프 엔지니어링, 그리고 '소프트웨어 팩토리'로 이어지는 흐름으로 설명한다. 모델에 맥락·도구·파일시스템·깃을 붙인 하네스, 계속 프롬프트하고 점검하고 기억하며 다음을 결정하는 루프가 쌓이면 에이전트는 인프라처럼 작동한다. 그럼에도 프로덕션 결정을 내리는 것은 여전히 사람이며, 오스마니는 사람의 판단이 가장 레버리지가 큰 검문소가 된다고 본다. 그는 소나(Sonar)의 2026년 조사를 인용해 AI 보조 코드가 이미 코드베이스에서 큰 비중을 차지하게 됐고, 깨끗한 코드는 다음 사람뿐 아니라 다음 에이전트에게도 도움이 되어 토큰을 덜 쓰고 재방문을 줄인다고 전한다.

오스마니는 '알파(지금 내가 할 수 있는 것과 최신 모델이 할 수 있는 것의 격차)'와 그 격차를 갉아먹는 시계인 '감쇠(decay)'라는 개념으로 커리어를 조명한다. 속도는 이미 감쇠했고, 기억은 하네스가 대신하며, 검증도 이밸과 정적 분석, 모델 비평으로 옮겨간다. 안목(taste)은 더 천천히 감쇠하지만 모델이 예시를 학습하면서 다시 리셋된다. 그래서 그는 '에이전트가 무엇을 할 수 있는가'보다 '오직 사람만이 책임질 수 있는 것은 무엇인가'가 더 나은 질문이라고 말하고, 엔지니어라는 단어를 시스템을 추론하고 제약을 따지며 트레이드오프를 방어하고 위험을 관리하는 사람으로 더 엄격하게 정의한다.

그는 이 시대에 피해야 할 세 가지를 든다. 첫째는 인지 부채로, AI에 계속 미루다 보면 팀이 프로덕션에 올린 시스템을 스스로 설명하지 못하게 되는 위험이다. 둘째는 인지 항복으로, 자기 의견을 세우기도 전에 AI의 답을 내 답으로 받아들이는 태도다. 그는 와튼의 연구를 빌려 AI가 틀렸을 때도 73%가 여전히 틀린 답을 고르고 오히려 더 확신했다는 '빌려온 확신'을 경고한다. 셋째는 오케스트레이션 세금으로, 에이전트를 많이 돌린다고 내 인지 대역폭이 병렬로 늘지는 않으니 주의를 하나의 시스템처럼 설계하라고 조언한다.

결론에서 그는 실행과 책임은 다르다고 못 박는다. 에이전트는 런북을 따를 수 있어도 결과를 물려받지 못하므로, 안쪽 루프(조사·구현·테스트·보고)는 능력의 영역이고 바깥 루프(결정·검증·승인·소유)는 여전히 엔지니어링의 영역이다. 경계는 '사람이 AI 출력을 흘깃 본다'가 아니라 '증거와 책임'에 있으며, 실무 규칙은 '설명할 수 없으면 배포하지 마라'로 압축된다. 소프트웨어를 만들기 쉬워질 때마다 오히려 수요가 늘어난 역사를 들어, 그는 병목이 '이걸 만들 수 있는가'에서 '이게 존재해야 하는가, 그리고 우리가 책임질 수 있는가'로 옮겨갈 뿐이라고 마무리한다.

주요 인사이트

• 소나의 연구에 따르면 깨끗한 코드와 지저분한 코드의 통과율은 비슷했지만, 깨끗한 코드가 토큰을 덜 쓰고 재작업을 줄였다 — 유지보수성이 곧 '소프트웨어 팩토리'의 효율로 이어진다.
• 와튼 연구에서 AI가 틀렸을 때도 73%가 틀린 답을 선택하며 더 큰 확신을 보였다. 실패는 AI를 쓰는 데서가 아니라 '빌려온 확신'에서 온다.
• 안쪽 루프는 능력, 바깥 루프는 주도성(agency)이다. 사람과 AI의 경계는 감시가 아니라 증거와 책임에 있다.
• 주도성의 사다리는 문제를 알리는 단계에서 실행·진단·제안·권고·해결로 올라가며, 가장 드문 최상위는 '그 문제가 투자할 가치가 있는지' 가려내는 분별력이다.
• 소프트웨어 제작 비용을 낮출 때마다 잠재 수요가 드러나 오히려 일이 늘었다. 에이전트도 엔지니어링을 없애기보다 병목을 '만들 수 있는가'에서 '만들어야 하는가'로 옮긴다.

자주 묻는 질문

관련 AI 소식