생성형 AI 세미나 정리: 데이터 고갈 이후의 LLM 연구 방향과 AI 에이전트의 기술적 한계

핵심 메시지

• 발표자는 향후 5년 안에 '숙련된 성인 절반보다 나은 범용 AI'에는 도달하겠지만, 그 이상은 예측하기 어렵다고 본다.
• 진전을 막을 병목으로 스케일링 법칙의 포화, 비용·전력·환경 부담, 데이터 고갈, 규제 네 가지가 꼽혔다.
• 데이터를 한 번 쓰고 버리는 대신 재작성해 반복 학습하거나, 추론 시점에 검색해 쓰거나, 질의별로 추가 학습하는 방향이 제시됐다.
• 토크나이저를 없애고 바이트나 화면 이미지를 그대로 입력받는 더 극단적인 엔드투엔드가 다음 후보로 거론된다.
• AI 에이전트는 긴 호흡의 계획, 행동 결과 예측(그라운딩), 비용이라는 세 가지 벽에 막혀 있다.

쉽게 이해하기

첫 발표자는 AI의 진전을 '지능의 깊이'와 '적용 범위'라는 두 축으로 나눈 분류 체계를 빌려 현재 위치를 짚는다. 알파고나 알파폴드처럼 특정 과제에서 사람 전문가를 넘어선 시스템은 이미 있지만, 범용 쪽에서는 아직 초기 단계에 해당한다는 진단이다. 그는 숙련된 성인의 절반보다 나은 범용 AI에는 5년 안에 도달할 가능성이 높지만 그 이상은 10년이 걸릴지 수십 년이 걸릴지 알 수 없다고 말한다.

그래서 그가 던지는 질문은 '5년 뒤에도 도달하지 못했다면 무엇이 발목을 잡았을 것인가'다. 후보는 네 가지다. 모델과 데이터를 키워도 성능이 더는 따라오지 않는 포화, 비용뿐 아니라 전력과 환경 부담까지 감당하지 못하게 되는 상황, 학습할 데이터가 고갈되고 남은 고품질 데이터는 각자의 소유로 파편화되는 상황, 그리고 정책과 규제다.

데이터 문제에 대한 그의 처방은 '있는 데이터를 최대한 짜내는 것'이다. 같은 문서를 반복 학습하면 수확이 줄어들므로, 원문을 AI로 여러 형식과 문체로 다시 쓴 뒤 학습하는 방식이 이미 자리를 잡았다. 여기서 더 나아가 학습 후 데이터를 버리지 않고 질의 시점에 관련 부분을 찾아 쓰는 검색 활용, 나아가 그 부분으로 모델을 추가 학습시키는 접근이 유망하지만 아직 연구 초기라고 본다.

그는 또 사람이 끼워 넣은 중간 단계를 더 걷어내야 한다고 주장한다. 토크나이저는 트랜스포머와 따로 학습되는 별도 단계인데, 이를 문자 단위나 아예 바이트 단위 처리로 대체하려는 시도가 있다. 더 과감한 방향은 웹 문서를 HTML에서 텍스트로 변환하는 대신 화면을 찍은 이미지 그대로 모델에 넣는 것이다. 반대로 데이터 파편화에 대해서는 엔드투엔드를 깨는 처방을 내놓는다. 공용 기반 모델 위에 각자의 데이터로 학습한 전문가 모듈을 붙여 되돌려 놓는, 분산 협업형 개발 생태계 구상이다.

두 번째 발표자는 2025년의 키워드로 추론 능력과 멀티모달을 꼽은 뒤 AI 에이전트로 넘어간다. 언어 모델은 텍스트를 넣고 텍스트를 받는 구조인데, 어떻게 환경에 작용하는가. 답은 도구 호출이다. 모델이 '무엇을 검색하겠다'는 텍스트를 내놓으면 실행을 잠시 멈추고 실제 검색 결과를 문맥에 붙여 재개하는 식으로, 모델 입장에서는 스스로 외부 정보를 모아 온 셈이 된다. 서로 독립적인 조회를 순차적으로 처리하는 낭비를 막으려면 전체 계획을 먼저 세우는 별도 모델이 필요하다는 설명도 이어진다.

주요 인사이트

• 코딩 에이전트 평가에서 유출 가능성이 낮은 문제를 골라 100줄 규모의 수정을 요구하자 대부분 모델이 25% 미만의 정확도에 머물렀고, 기업이 보유한 비공개 문제에서는 더 떨어졌다.
• 사용자 기기에서 앱을 조작하는 과제는 사람이 70%대 성공률을 보인 반면 에이전트는 10%대에 그쳤다. 다만 1년 전 거의 0점이던 웹 자동화 과제가 상당 부분 가능해진 것은 뚜렷한 진전이다.
• 에이전트의 취약점은 잘못된 상태에 빠졌을 때 회복하지 못한다는 점이다. 사람은 뒤로 가기를 눌러 되돌아오지만, 모델은 그러지 못하고 실패 경로를 알려 주면 오히려 성능이 더 나빠졌다는 보고도 있다.
• 그라운딩, 즉 '이 버튼을 누르면 무슨 일이 생기는가'를 미리 아는 능력도 부족하다. 웹 화면을 보여 주고 두 선택지 중 결과를 고르게 한 실험에서 찍는 수준에 가까운 성능이 보고됐다.
• 비용은 실용성의 문턱이다. 사람보다 잘하더라도 비용이 수백 배면 상품이 되지 못한다. 70억 파라미터급 모델로 100만 단어를 한 번에 처리하려면 최적화 없이는 GPU 여러 장으로 구성된 서버 한 대가 통째로 필요하다는 계산이 제시됐다.

자주 묻는 질문

관련 AI 소식