AI가 설계한 바이러스 16종 실제 작동: 스탠퍼드·아크연구소 실험과 생물보안 논쟁

핵심 메시지

• 스탠퍼드대와 아크연구소 연구진이 방대한 유전 데이터로 AI 모델을 학습시켜 DNA의 규칙을 익히게 한 뒤, 자연에 존재한 적 없는 바이러스 유전체를 처음부터 설계하게 했다.
• 수십만 개 설계안 가운데 285개를 실제로 제작해 시험했고 그중 16개가 세균을 감염하고 스스로 증식하는 기능을 갖춘 바이러스로 확인됐다.
• 연구진은 세균만 감염하는 무해한 바이러스를 바탕으로 삼았고 사람에게 감염되는 바이러스를 학습 데이터에서 의도적으로 제외했다고 밝혔다.
• 연구 논문 스스로 생물안전·생물보안 고려가 필요하다고 적었다는 점을 두고, 한계를 알면서도 일단 하고 나중에 걱정하는 기술 업계의 관성이라는 비판이 나왔다.
• 출연한 과학 기자는 가장 큰 위험은 AI 자체가 아니라 안전장치를 실제로 설치할 의지가 있느냐는 인간 쪽 문제라고 짚었다.

쉽게 이해하기

독일 공영방송 DW의 과학 코너가 학술지 사이언스에 실린 연구를 놓고 진행자와 과학 기자 술피카 아바니의 대담을 내보냈다. 캘리포니아의 스탠퍼드대와 아크연구소 연구진은 대규모 언어 모델이 텍스트로 언어의 규칙을 배우듯, 방대한 유전 데이터로 AI 모델을 학습시켜 DNA를 이루는 패턴과 규칙을 익히게 했다. 그런 다음 이 시스템에 새로운 바이러스 유전체를 처음부터 만들어 보라고 요구했다.

결과는 수치로 분명하다. 수십만 개의 설계안이 나왔고 연구진은 그중 285개를 실제로 제작해 시험했으며, 16개가 세균을 감염시키고 스스로 복제하는 기능을 온전히 갖춘 바이러스로 판명됐다. 자연에 한 번도 존재한 적 없던 것들이다. 다만 연구진은 세균만 감염하는 무해한 바이러스를 바탕으로 삼았고 사람에게 감염되는 바이러스를 학습 데이터에서 일부러 뺐다며, 이들이 사람에게 위협이 되지 않는다고 설명한다.

대담은 이득부터 짚는다. 이들은 세균을 공격하는 박테리오파지 계열로, 여름철 물놀이 환경에서 흔한 비브리오나 대장균 같은 세균을 겨냥할 수 있다. 특히 항생제 내성 문제에서 가치가 크다는 설명이 이어지는데, 세균이 기존 항생제에 더는 듣지 않게 되면 새로운 무기가 필요하기 때문이다. 진단 영역에서도 특정 파지에 반응하는지를 확인해 기존 치료로 연결하는 활용이 가능하다고 봤다.

반대편의 우려는 논문 자체에 적혀 있다. 아바니는 논문 아홉 번째 쪽의 논의 부분을 인용해, AI로 새로운 파지 유전체를 만들어 내는 능력이 생물안전·생물보안 고려를 필요로 하며 거버넌스 정책과 오용 완화 전략의 한계를 논의해야 한다고 연구진 스스로 썼다고 지적했다. 문제를 알면서도 일단 실행하고 나중에 걱정하는 방식이 AI 업계 전반의 작동 방식으로 보인다는 것이 그의 비판이다. 무해한 바이러스에서 사람을 감염시키는 쪽으로 넘어가는 것이 얼마나 어렵겠느냐는 질문에는, 결국 어떻게 프롬프트를 넣고 어떻게 학습시키느냐의 문제라며 어렵지 않을 것이라고 답했다.

대담 후반은 규제와 인간의 책임으로 옮겨 간다. 아바니는 복제양 돌리와 달리 이번에는 어떤 것의 사본이 아니라 존재한 적 없는 개체를 만들어 냈다는 점을 인정하면서도, 의학은 늘 시행착오의 과정이며 자연에 없던 것을 치료 전략에 써 온 역사가 있다고 짚었다. 그러면서 모델이 스스로 배양 접시에 바이러스를 옮겨 담을 수는 없으므로 사람이 개입하는 고리는 여전히 중요하다고 말했다. 결론은 규제 의지의 문제였다. 유럽연합의 AI 법처럼 신뢰를 확보하려는 시도가 있지만, 정작 두려운 것은 AI가 아니라 안전장치를 설치할지 말지를 정하는 사람들이라는 것이다.

주요 인사이트

• 이 연구가 상징적인 이유는 결과물이 화면 속 모델이 아니라 실험실에서 기능하는 생물이라는 점이다. 대담에서도 모델을 만드는 단계와 살아 있는 개체로 구현하는 단계는 별개라는 구분이 반복된다.
• 학습 데이터에서 사람 감염 바이러스를 제외한 것은 의미 있는 조치지만, 대담에서는 그것이 충분한 방어선이냐는 질문이 제기된다. 같은 기법을 다른 데이터로 돌리는 것을 막는 장치는 아니기 때문이다.
• 논문이 스스로 위험을 명시했다는 사실이 안심의 근거가 아니라 비판의 근거로 쓰였다. 한계를 알면서 진행했다는 점이 오히려 문제라는 논리다.
• 항생제 내성이라는 실제 의료 문제와 연결된다는 점이 이 기술을 단순한 호기심 실험과 구분한다. 세균이 과거에 자신을 죽였던 것에 적응해 가는 이상, 새로운 접근이 필요하다는 설명이다.
• 출연자는 AI 기업들이 통제 실패 사례를 공개하는 방식 자체를 회의적으로 봤다. 사고였다기보다 능력을 과시하는 성격이 있다는 견해를 내놓으며, 개인 견해임을 분명히 했다.

자주 묻는 질문

관련 AI 소식