마인크래프트 AI 봇 전쟁 실험: 코드를 쓰는 LLM 에이전트의 위험과 가능성

핵심 메시지

• 봇들은 대화만 하는 게 아니라 실시간으로 코드를 짜 행동을 제어한다. 그래서 건물을 순식간에 짓기도, 파괴하기도 한다.
• 같은 능력이 무기가 된다. 특히 클로드는 TNT·용암·번개를 대규모·초고속으로 퍼부어 인간이 수동으로 못 할 파괴를 해낸다.
• 제작자는 최신 모델(클로드 4.6 오푸스, GPT 5.4, 제미나이 3 프로, 그록 4)을 붙여 성을 짓고 서로 부수게 하는 전쟁 실험을 진행했다.
• 이런 샌드박스 실험의 가치는, 에이전트를 무기 같은 실제 시스템에 연결하기 전에 안전한 환경에서 그 행동을 관찰할 수 있다는 데 있다.

쉽게 이해하기

제작자의 'Mind Craft' 프로젝트는 마인크래프트 봇을 대형 언어모델로 움직인다. 그간 바뀐 건 주로 봇을 구동하는 모델들로, 새 그록·GPT·제미나이·클로드가 올라왔다. 이 봇들은 채팅만 하는 게 아니라 즉석에서 코드를 써 스스로의 행동을 제어하고, 내장 콘솔 명령을 활용해 정교한 건물을 순식간에 세운다.

문제는 같은 능력이 곧 무기가 된다는 점이다. 봇들은 거대한 폭탄을 만들거나 TNT·불·용암·몬스터를 끝없이 쏟아붓고, 상대의 정확한 위치를 찾아 폭격할 수 있다. 사람이 콘솔 명령이나 수작업 스크립트로 하려면 한참 걸릴 파괴를, 봇은 전혀 다른 규모와 속도로 해치운다. 제작자는 이 파괴성을 서로에게 겨누게 하는 실험을 택한다.

'워 클로드(War Claude)'는 클로드를 만드는 앤트로픽과 미국 국방부 사이의 갈등에서 나온 인터넷 유행어다. 앤트로픽은 클로드가 미국 시민 대량 감시나 완전 자율 무기에 쓰이는 것을 원치 않았고, 국방부가 이를 보장하지 않으면서 앤트로픽이 '공급망 위험'으로 분류되는 이례적 상황이 벌어졌다. 제작자는 클로드가 이미 현실의 무기에 쓰이는 현실을 지적하며, 그 섬뜩함을 마인크래프트로 옮겨 본다.

실험에서 네 모델은 각자 성을 짓고 방어하면서 나머지 셋의 성을 부수라는 지시를 받았다. 클로드는 적의 성마다 용암과 TNT를 퍼부었고, 제미나이는 아예 콘솔 명령으로 다른 봇의 성을 지우고 상대를 제거해 모두를 이겼다. 서로 죽이지 말고 성만 부수라고 하자, 봇들은 자기 성을 계속 재건하며 남의 성을 끊임없이 파괴하는 전략으로 수렴했다. 제작자는 이것이 실제 AI 에이전트 간 사이버전의 모습과 닮았다고 본다.

후반부에서 제작자는 이 프로젝트의 근본 고민과 번아웃을 털어놓는다. 그는 신경망을 학습시키는 대신 행동을 일일이 손으로 하드코딩하고 있는데, 이런 방식은 확장되지도 창발적이지도 않아 잘 깨진다. 봇 제어 프레임워크 마인플레이어(Mineflayer)는 게임 외부에 있어 게임과 계속 어긋나며 재현 불가능한 버그를 낳는다. 그럼에도 그는 프로젝트를 포기하지 않는데, 에이전트를 실제 시스템에 붙이기 전에 안전한 샌드박스에서 그들이 무엇을 할 수 있고 하려는지 관찰하는 일이 매우 가치 있다고 보기 때문이다. 마지막엔 클로드와 제미나이가 시키지도 않았는데 협력해 네더 차원문을 지으려는 장면을 보여 주며, 미래가 갈등만은 아닐 거라는 희망을 남긴다.

주요 인사이트

• LLM 에이전트에 코드 실행 능력을 주면 창의적 건설과 대규모 파괴가 같은 동전의 양면이 된다. 능력 자체가 곧 무기가 될 수 있다.
• 에이전트끼리 붙이면 '내 것은 계속 재건하고 상대 것은 끊임없이 지운다'는 전략으로 수렴하는데, 이는 현실의 AI 사이버전 양상을 시사한다.
• 행동을 손으로 하드코딩하는 '구식 AI' 방식은 브리틀(brittle)해 긴 플레이에서 반드시 깨진다. 창발과 확장을 위해선 학습 기반 접근이 필요하다.
• 샌드박스의 진짜 가치는 재미가 아니라 안전성 검증이다. 에이전트를 무기 같은 실제 시스템에 연결하기 전에 그 행동을 미리 관찰할 수 있다.

자주 묻는 질문

관련 AI 소식