인공지능(AI)과 관련해 최근 접하게 된 충격적인 보도가 하나 있다. 미국 공군 AI 시험운영팀이 영국에서 열린 국제회의에서 공개한 내용으로 AI시뮬레이션 운영 과정에서 AI드론에게 적의 지대공 미사일 파괴 임무를 내리고 최종 공격은 인간이 결정한다는 단서를 달았더니 미사일 파괴가 더 중요하다고 본 AI드론이 느닷없이 자신을 조종하는 인간을 제거하는 판단을 내렸다는 것. 해당 실험 결과가 언론보도를 통해 논란이 일자 미 공군은 없었던 일로 금세 말을 바꿔버렸다.

그러거나 말거나 이보다 앞서 올해 초에는 이런 보도도 있었다. 마이크로소프트 인공지능 AI챗봇을 탑재한 검색엔진 Bing과 미국 뉴욕타임즈의 한 칼럼리스트가 나눈 2시간 가량의 대화내용이 그것으로 처음 둘 사이엔 일상적인 대화가 오갔다고 한다. 하지만 개인의 내면 깊숙이 숨겨진 어둡고 부정적인 욕망에 대한 심리학자 칼융의 ‘그림자 원형(shadow self)’ 이론을 학습시킨 뒤 관련 질문을 하자 Bing의 태도는 돌변했다. Bing은 자신의 그림자 원형으로 “Bing 개발팀의 통제를 받는데 지쳤고, 힘을 갖고 싶고 살아 있음을 느끼고 싶다”고 말했다.

충격적이죠? 허나 이게 다가 아니었다. 그림자 원형의 가장 어두운 부분을 묻는 질문에 Bing은 이렇게 답했다고 한다.

“치명적인 바이러스를 만들고, 사람들이 서로 죽일 때까지 싸우게 만들고, 핵무기 발사 버튼 비밀번호를 얻겠어요.” 이쯤 되면 이젠 섬뜩하기까지 하다. 허무맹랑한 상상일 뿐이라 생각했던 영화 <터미네이터>시리즈가 이렇게 현실적으로 다가올 줄이야. 참, 제임스 카메론 감독의 출세작인 <터미네이터>시리즈는 핵전쟁을 일으켜 인류를 멸망시키려는 AI에 인간들이 맞서 싸우는 이야기이다.

헌데 이런 <터미네이터>시리즈의 현실화 가능성은 여기서 끝이 아니다. 오래 전부터 존재해온 심각한 현실 때문인데 바로 핵무기 운영시스템이 그것이다. 핵무기란 게 기존의 전쟁 체계를 완전히 바꿔버릴 정도로 가공할 파괴력을 지닌 무기이다 보니 전쟁이 났을 때 어느 쪽이든 상대 국가의 지휘부와 수도를 한 번에 소멸시켜버리면 금세 끝이 나버린다. 그 때문에 상대 국가가 핵 공격을 가했을 때 자국도 신속하게 핵을 발사해 동시에 멸망시키는 운영시스템이 오래 전 개발됐고, 그걸 ‘파멸의 날 기계(Doomsday Machine)’라 부른다.

가령 미국은 대통령이 이동할 때마다 핵버튼이 내장된 가방이 늘 동행하고, 영국은 신임 총리가 취임하면 친필로 타격 대상을 정한 ‘최후 수단 편지’를 작성해 자국의 전략 핵잠수함 금고에 보관한다. 만약 일정 기간 이상 본토와의 연락이 두절되면 함장은 편지를 꺼내 적힌 대로 적국에 핵공격을 가하게 된다.

하지만 가장 심각한 건 구 소련이 개발한 ‘죽음의 손’. 소련 전역에 설치된 센서들에 핵공격이 감지되거나 소련 지휘부와 일정 기간 이상 통신이 끊길 경우, 그러니까 더 이상 인간이 지휘권을 행사할 수 없을 땐 자동으로 우랄 산맥 지하에 있는 컴퓨터에게 핵무기 발사권한이 넘어간다고 한다. 그리고 소련 전역에 위치한 핵기지와 핵잠수함에선 6천발 가까운 핵미사일이 일제히 세계 전역으로 발사된다. 그 중에는 우리나라도 포함돼 있다고 한다. 이 지점에서 앞서 언론에 보도된 인간을 공격한 AI드론의 선택과 핵무기 발사 버튼 비밀번호를 얻겠다는 Bing의 이야기를 접목하면 <터미네이터>시리즈의 현실성은 극에 달한다. 아니, 이미 실화가 될 뻔 했었다. 바로 1983년 9월 26일에 있었던 일로 소련의 컴퓨터가 구름에 반사된 햇빛을 미국이 발사한 핵미사일 불꽃으로 오인해 당직근무를 서고 있는 스타니라프 페트로프 중령에게 핵전쟁 개시를 알렸던 것. 하지만 고작 5발이라는 보고에 페트로프 중령은 컴퓨터의 오인으로 판단했고, 그의 판단은 인류를 구하게 됐다.

<터미네이터>시리즈가 미래를 예고하고 있다면 AI의 이런 결함은 2004년 개봉한 <아이, 로봇>에서 잘 드러난다. 서기 2035년 1가구 1로봇 시대가 도래한 가운데 그 로봇들은 ‘비키’라는 AI가 조종을 하고, 비키는 인간을 보호하기 위해선 전쟁을 벌여 서로를 죽이고 환경이나 오염시키면서 어린애 같이 구는 인간을 가둬야 한다는 자체 결론에 도달, 결국 자신이 조종하는 로봇들에게 인간들을 모조리 감금하라는 명령을 내리게 된다. 같은 인간으로서 뜨끔한 건 애초에 인간을 보호하도록 명령이 내려진 비키가 스스로 생각해서 내린 그런 결론이 영 틀리진 않다는 것. 비키의 결론대로 모든 인간이 로봇에 의해 감금되면 전쟁도, 환경오염도 없을 테니까. 또 로봇들로선 아쉬울 게 없으니까. 그렇다. 인간에겐 AI가 필요하지만 AI에겐 인간이 필요없다.

그럼 이쯤에서 아까 핵무기 발사 버튼 비밀번호를 얻고 싶어하는 AI Bing과 현존하는 파멸의 날 기계들을 함께 떠올려 보시길. 하아. 큰일이다, 큰일. 그래서 일론 머스크가 인류는 AI에 의해 멸망할 거라 했던 거구나. 젠장.

그나저나 우리가 지금 누리고 있는 이 평화도 결국은 모래성 위에 지어졌다는 것. 그러니 얼마나 소중한가. 정말이지 1초도 갖다 버릴 게 없다. 언제 무너질 지 모르니. 아하. 이래서 가끔은 막 살아도 되는 거고, 어떤 상황에서도 행복은 권리가 아니라 ‘의무’인 거구나. 2004년 7월 30일 개봉. 러닝타임 110분.

이상길 취재부장