무기의 역사는 ‘1945년 8월 6일’ 이전과 이후로 나뉜다. 히로시마에 원자폭탄이 투하된 날이다. 위력에 어울리지 않는 ‘리틀보이’란 이름의 3m짜리 폭탄 한 발로 9만~16만 명이 사망했다. 과거 냉병기 시대 전투는 사람 하나하나를 일일이 해치우는 방식이었다. 그러다 화약무기로 여러 명을 한꺼번에 살상할 수 있게 됐고, 핵무기 시대엔 수십만 명 목숨을 단숨에 앗아갈 수 있다. 전쟁의 패러다임도 근본적으로 바뀌었다.

■히로시마의 비극을 떠올리는 건, 때마침 80년이 지난 시점이기도 하고 최근 오픈AI 창업자 샘 올트먼이 ‘인공지능(AI)에 원자폭탄의 순간이 임박했다’는 경고를 내놓았기 때문이다. 올트먼은 “AI가 너무 완벽한 답을 도출해 내가 쓸모없는 존재처럼 느껴졌다”며 “마치 방에서 어른이 사라진 것 같다”고 말했다. 올트먼은 “과거에도 이런 장면이 있었는데, 바로 맨해튼 프로젝트였다”고 언급했다. 로버트 오펜하이머 등 최고 과학자들이 모여 2차대전 종결 수단(핵무기)을 개발한 극비 계획 말이다.

■차세대 AI 모델 출시를 앞둔 올트먼이 홍보성 엄살을 떨었을 수 있다. 그러나 AI 발전 속도는 늘 예상보다 빨랐다. 요즘 AI 뉴스는 특이점투성이다. AI 스스로 논문을 작성해 학회 심사를 통과하고, 자연에 존재하지 않는 단백질 구조를 창조한다. 올트먼 발언에서 눈여겨볼 것은 AI가 어른(인간) 통제를 벗어나려 한다는 점이다. 기계가 인간을 조종하는 디스토피아가 열리고, 기계의 역사에 ‘원자폭탄의 순간’이 올 수 있다.

■80년 전 과학자들은 전쟁을 끝내려고 맨해튼 계획에 모였지만, 핵무기의 충격적 파괴력에 몸서리쳤다. 오펜하이머는 힌두 경전을 인용해 “나는 이제 죽음이요, 세상의 파괴자가 되었도다”라며 전율했다. AI 개발자들이 오펜하이머의 심경을 토로할 날이 올 수도 있다. 디스토피아적 상상력을 더한다면, 지적 허영심까지 갖춘 AI가 인간을 넘은 업적을 역사에 새기고자 이런 어록을 남길지도 모르겠다. “나는 이제 생명이요, 세상의 주인이 되었도다.” 아이가 통제에 따를 시간이 얼마 남지 않았다.

<이영창 / 한국일보 논설위원>