지난 주 한 주요 인공지능(AI) 기업이 내놓은 다음 문장을 읽으며 나는 전혀 즐겁지 않았다. “우리의 테스트 결과 미토스 프리뷰(Mythos Preview)는 사용자의 지시에 따라 모든 주요 운영체제와 주요 웹 브라우저에서 제로데이 취약점을 식별하고 이를 악용할 수 있는 능력을 갖추고 있음이 확인되었다.”

쉽게 말해, 앤트로픽은 자사의 최신 AI 모델이 오늘날 거의 모든 것을 움직이는 주요 시스템들에서 보안 취약점을 찾아냈다고 밝힌 것이다. 코딩 능력이 그리 뛰어나지 않은 사람들조차 이 취약점을 이용해 국가 디지털 인프라의 상당 부분을 해킹할 수 있는 가능성이 있다는 의미다. 물론 이를 실행하려면 상당한 컴퓨팅 자원이 필요하지만, 많은 정부들, 그리고 민간 조직들은 충분한 자금과 숙련된 해커를 보유하고 있다.

일부는 이를 또 다른 AI 과장 홍보로 의심할 수도 있다. 그러나 주요 기업들이 이를 얼마나 심각하게 받아들이고 있는지를 보면 이야기는 달라진다. 앤트로픽은 ‘클로드 미토스 프리뷰’를 일반에 공개하는 대신 애플·구글·마이크로소프트 등 핵심 기업들과 협력해 가능한 한 빨리 취약점을 보완하는 작업에 착수했다. 이는 문제가 실제라는 강력한 신호다. 만약 덜 책임감 있는 기업이나 정부가 이 모델을 먼저 확보했을 경우 어떤 일이 벌어졌을지 생각하면 섬뜩하다. 결국 다른 이들도 이 수준에 도달할 것이기 때문이다. 앤트로픽이 선두에 있을 뿐, 추격자들은 바로 뒤에 있다.

일부는 이를 근거로 AI를 아예 금지해야 한다고 주장할 수 있다. 그러나 이는 현실적인 해법이 아니다. 이번 사례가 보여주듯 기술은 이미 존재하며, 미국이 개발을 중단하더라도 다른 누군가는 계속 발전시킬 것이다.

만약 이런 ‘미토스급 돌파’가 중국 기업에서 먼저 일어났다면 어떠했을까. 일정 규모 이상의 중국 기업은 사실상 중국 공산당의 통제 아래 있다. 중국 정부는 AI를 전략적으로 매우 중요한 분야로 간주하고 있으며, 최근에는 한 스타트업이 메타에 인수되자 창업자들의 해외 출국까지 금지한 바 있다. 그렇다면 중국 기업이 대규모 보안 취약점을 발견했을 경우 이를 세계에 공개하며 패치를 도왔을까, 아니면 국가 차원의 사이버 공격 자산으로 활용했을까.

이에 대한 반론으로 글로벌 협의를 통해 AI 개발을 일시 중단하자는 주장이 나온다. 그러나 이는 현실적으로 작동하기 어렵다. 이는 사실상 대규모 군비 통제 협상과 유사하며, 수년에서 수십 년이 걸릴 수 있다. 반면 AI 기술은 매달 새로운 능력을 획득하고 있다. 설령 협상이 빠르게 진행되더라도 협정은 당사자들이 준수할 의지가 있을 때만 의미를 갖는다.

현재 미국은 첨단 반도체 등 ‘컴퓨팅 능력’에서 중국보다 앞서 있어 AI 경쟁에서 유리한 위치에 있다. 그러나 전력 생산과 송전 능력에서는 중국이 크게 앞서 있다. 지난 4년 동안 중국은 미국 전체 전력망에 맞먹는 규모의 설비를 추가로 구축했다.

그렇다면 미국은 어떻게 중국이 합의를 지킬 것이라 신뢰할 수 있겠는가. 중국은 지금은 협상에 동의한 뒤 컴퓨팅 격차를 줄이면 언제든 이탈할 가능성이 있다. 그렇게 되면 오히려 장기적으로 중국의 우위를 고착화할 수 있다. 미국이 인프라 구축을 가로막는 법과 규제 문제를 해결하기 전에 중국이 격차를 먼저 좁힐 가능성이 높기 때문이다.

결국 불편하지만 분명한 결론에 이른다. 미국은 다가오는 변화를 막을 수 없다. 데이터센터 건설을 중단할지를 논쟁할 것이 아니라 이에 적응해야 한다. 모든 미국 기업과 개인은 보안 점검에 나서야 한다. 이미 취약점을 알고 있던 해커들이 패치 이전에 공격을 시도할 가능성이 커졌기 때문이다. 중요한 데이터는 백업하고 서비스마다 서로 다른 비밀번호를 설정하며 이중 인증을 활성화해야 한다.

동시에 민주·공화 양당은 문화 전쟁에 쏟았던 열정을 국가 전력망 확충에도 쏟아야 한다. 천연가스냐 재생에너지냐를 두고 끝없는 논쟁을 벌일 여유는 없다. 답은 ‘모두 필요하다’는 것이다. 전력의 충분한 공급은 정치적 쟁점이 아니라 개인과 국가 안보의 문제로 인식해야 한다.

또한 미국 정부의 기술 역량은 대대적으로 강화되어야 한다. 우리는 아직 AI 거버넌스의 완전한 형태를 알지 못한다. 지금 성급한 규제를 도입하면 발전을 저해할 가능성이 크다. 그러나 정부가 결국 중요한 역할을 하게 될 것은 분명하며, 현재로서는 그 준비가 매우 부족하다. 채용 시스템, 급여 구조, 조달 규정, 관료적 절차 등은 민간의 전문성을 따라가기 어렵게 만들고 있다.

이 격차를 줄이기 위해서는 정부 운영 전반에 걸친 근본적인 변화가 필요하다. 또한 주·지방 정부 규제에 대한 연방 차원의 조정도 요구된다. 빠르게 변화하는 기술을 관리하기에는 주정부의 역량이 부족하고, 50개 주의 서로 다른 규제를 동시에 적용하는 것도 현실적으로 불가능하기 때문이다. 일부 실행 문제는 지역에 맡기되, 국가 경쟁력과 안보에 직결된 사안은 연방 차원에서 결정해야 한다.

지금까지 많은 사람들은 AI 정책을 국내 문제로만 인식해왔다. 그러나 가장 중요한 질문은 따로 있다. 미래가 미국의 가치와 제도에 의해 운영될 것인가, 아니면 중국 공산당에 의해 좌우될 것인가. 이 질문에 대한 답을 잘못 선택한다면 다른 모든 논의는 큰 의미를 잃게 될 것이다.

<메건 매카들 워싱턴포스트 칼럼니스트>