그린 AI 강연 정리: 데이터센터 전력과 탄소, 엔지니어가 실제로 줄일 수 있는 지점

핵심 메시지

• 마이크로소프트와 구글은 자체 환경 보고서에서 배출량 증가의 주된 이유로 AI용 데이터센터 확충을 지목했다.
• 데이터센터와 네트워크를 합친 전력 소비는 브라질 한 나라의 전력 소비에 맞먹는 규모이며, 배출량은 항공 산업과 비슷한 수준으로 추정된다.
• 학습은 지연에 민감하지 않은 작업이라 재생에너지가 풍부한 시간과 장소로 옮길 여지가 크다.
• 증류, 양자화, 프루닝으로 모델을 줄이면 학습 시간과 추론 비용을 함께 줄일 수 있다.
• 지속가능성은 비용 절감·속도 향상과 방향이 같아서, 아키텍처 원칙에 넣어도 손해 볼 것이 거의 없다.

쉽게 이해하기

강연자는 국제에너지기구가 2022년 내놓은 수치, 즉 아마존·마이크로소프트·구글·메타의 전력 사용량이 2017년부터 2021년 사이 두 배 넘게 늘어 약 72테라와트시에 이르렀다는 자료에서 이야기를 시작합니다. 단순히 기업들이 자체 전산실을 클라우드로 옮겼기 때문이라는 가정은 틀렸다고 말합니다. 대형 사업자들은 데이터센터를 효율적으로 운영해 왔고, 연산량이 늘어도 전력 증가폭은 크지 않았다는 것입니다.

실제 원인은 기업들 자신의 보고서에 있었습니다. 마이크로소프트는 2024년 환경 보고서에서 총 탄소 배출량이 2020년 대비 30% 늘었고 주된 이유는 AI를 위한 데이터센터 건설이라고 밝혔습니다. 구글은 2019년 대비 50% 이상, 2023년 한 해에만 13% 늘었다고 보고했습니다. 강연자는 여기서 말하는 AI가 생성형 AI를 뜻하며, 다른 기계학습 기법은 규모가 작아 환경 부담이 훨씬 덜하다는 점을 분명히 합니다.

규모 감각을 위해 비교 수치가 제시됩니다. 데이터센터 전력은 2022년 기준 240~340테라와트시로 전 세계 전력 수요의 1~1.3% 수준인데, 여기에 네트워크를 더하면 260~360테라와트시가 추가돼 두 배 가까이 됩니다. 상한을 합치면 약 700테라와트시로, 같은 기간 브라질(약 726테라와트시)에 근접하고 영국(316.9테라와트시)의 두 배가 넘습니다. 별도로 집계한 암호화폐 채굴만 110테라와트시입니다.

탄소에는 두 종류가 있다는 구분도 중요합니다. 하드웨어를 돌릴 때 나오는 직접 배출과, 제조·운송·폐기 과정에 이미 들어간 내재 탄소입니다. 강연자가 든 스마트폰 사례에서는 평생 배출량의 84%가 구매 이전에 이미 발생했습니다. 그래서 노트북과 휴대폰은 충전 전력을 신경 쓰기보다 오래 쓰는 편이 낫고, 대략 10년이 기준으로 제시됩니다. 반면 데이터센터 가속기는 전력의 절반 이상이 냉각에 쓰이는 구조라, 효율이 좋아진 장비로 교체하는 편이 유리할 수도 있습니다.

후반부는 프로젝트 단계별 점검표에 가깝습니다. 기획 단계에서는 "이 문제를 꼭 풀어야 하는가", "대형 언어모델이 이 문제의 올바른 해법인가", "모델을 처음부터 학습시켜야 하는가"를 묻습니다. 학습 단계에서는 지연에 민감하지 않다는 점을 근거로 재생에너지 시점·지역으로 옮길 것을, 데이터 단계에서는 공개 데이터셋 활용과 수집 시점 조정을 권합니다. 배포 단계에서는 증류·양자화·프루닝과 추측 디코딩 같은 기법, 그리고 필요한 최소 사양으로 돌리기 같은 기본기를 강조합니다.

강연은 윤리 문제도 짧게 다룹니다. 학습 데이터 상당수가 동의 없이 수집되며, 모델이 데이터를 기억하는 성질 때문에 법적 분쟁 위험이 커지고 있다는 지적입니다. 또 사람 피드백을 통한 강화학습 과정에서 저임금 국가의 노동자들이 인터넷의 최악의 콘텐츠를 반복적으로 검수하는 구조에 대해서도 불편함을 드러냅니다.

주요 인사이트

• 탄소 문제를 개인의 소비 습관이 아니라 엔지니어링 의사결정의 문제로 재정의한다는 점이 이 강연의 핵심이다.
• 쓰지 않는 서버를 끄는 것만으로도 클라우드 비용과 배출량을 절반 가까이 줄일 수 있었다는 감사 경험은, 절감 여지가 고급 기법이 아니라 기본 관리에 있다는 뜻이다.
• 비용은 탄소의 꽤 좋은 대리 지표다. 비용이 75% 줄었다면 탄소도 비슷한 폭으로 줄었다고 볼 여지가 있다.
• 최신 폐쇄형 모델의 학습 탄소 데이터가 더는 공개되지 않아 비교 자체가 불가능해졌고, 이는 오픈소스 모델을 택할 또 하나의 근거가 된다.
• 수요 이동(언제·어디서 돌릴지 바꾸기)과 수요 조형(앱 동작 자체를 가볍게 바꾸기)은 사용자 경험을 크게 해치지 않고 적용할 수 있는 실무 기법이다.

자주 묻는 질문

관련 AI 소식