앤트로픽 AI 개발 중단 제안과 천문학적 규모 IPO 논란, 재귀적 자기개선 우려까지 정리

핵심 메시지

• 앤트로픽이 평가가치에서 오픈AI를 넘어서며 올해 대규모 상장을 신청했다고 영상은 전한다.
• 앤트로픽 내부 싱크탱크는 AI가 “재귀적 자기개선”에 위험할 만큼 근접했다며 업계 공동의 개발 일시중단을 제안했다.
• 영상은 시장 선두 기업이 “전면 중단”을 주장하는 것은 자신의 우위를 그대로 동결하는 편리한 선택이라고 비판적으로 본다.
• 보스턴대 경제학자들의 “AI 해고의 덫” 논문과 MIT의 기업 도입 보고서를 인용해 AI 거품 가능성도 함께 제시한다.

쉽게 이해하기

Fireship의 코드 리포트는 앤트로픽이 인공지능 경쟁에서 평가가치 기준으로 오픈AI를 앞질렀고, 올해 안에 초대형 상장을 신청했다고 전한다. 영상은 클로드가 수년간 가장 뛰어난 코딩 AI로 평가받아 왔다는 점을 그 배경으로 든다.

그런데 같은 시기에 앤트로픽은 “AI 개발을 잠시 멈춰야 한다”는 제안을 내놓았다. 근거는 AI가 사람 없이 스스로 코드를 고쳐 반복적으로 성능을 끌어올리는 ‘재귀적 자기개선’에 위험할 만큼 가까워졌다는 내부 보고서다.

영상은 한 회사만 멈출 수는 없으므로 오픈AI·딥마인드·xAI는 물론 중국까지 모두가 동참해야 한다는 점을 지적한다. 동시에 전면 중단은 선두 주자의 격차를 ‘동결’시켜 주는, 상장을 앞둔 기업에게 유리한 카드라고 꼬집는다.

진행자는 2019년 오픈AI가 GPT-2를 “너무 위험하다”며 공개를 미뤘다가 결국 별 문제 없이 내놓았던 전례를 들어 이런 경고를 회의적으로 본다. 동시에 AI가 인간 연구자보다 낫다는 벤치마크 수치는 검증되지 않은 “믿어보라” 식 주장이라고 덧붙인다.

영상은 반대편 시나리오도 소개한다. 보스턴대 경제학자들의 “AI 해고의 덫” 논문은 기업이 노동자를 자동화로 대체하면 절감액은 독차지하지만 해고된 사람은 동시에 소비자였기에 전체 수요가 줄어든다고 본다. 또 MIT가 300여 개 기업을 분석한 보고서에서 약 95%의 AI 프로젝트가 측정 가능한 수익 효과를 내지 못했다는 점을 들어 거품 가능성도 함께 제기한다.

주요 인사이트

• “모두가 멈추거나 아무도 멈추지 않거나”라는 구조 때문에 일방적 개발 중단은 현실적으로 어렵다는 점이 핵심 딜레마로 제시된다.
• 안전을 이유로 한 공개 연기가 결과적으로 마케팅·시장 지배에 활용될 수 있다는 의심을, 영상은 GPT-2 사례와 겹쳐 설명한다.
• 경제학자들은 자동화에 ‘오염세’처럼 세금을 매겨 해고의 수지타산을 바꾸자고 제안하지만, 진행자는 경제학자 예측의 적중률에 회의적이다.
• iOS 앱스토어 신규 출시는 늘었지만 실제 사용과 리뷰는 줄고, 기업 AI 도입의 ROI도 저조하다는 데이터는 “AI가 생각만큼 좋지 않을 수 있다”는 세 번째 시나리오를 뒷받침한다.

자주 묻는 질문

관련 AI 소식