2022년 6월 2일. 우크라이나 전쟁이 일어나고 99일째 되던 날입니다. 50대의 '걸레머리' 미국인 사업가 한 사람이 우크라이나 젤렌스키 대통령을 만나 상담을 합니다. 빅테크 소프트웨어 기업 팔란티어의 대표 알렉스 카프였습니다.
그날을 기점으로 우크라이나 전쟁의 양상은 완전히 바뀝니다. 우크라이나 군은 미국 중앙정보국(CIA)도 투자한 팔란티어의 전쟁 관련 빅데이터 정밀 분석과 위치 추적 소프트웨어인 '고담(Gotham)'을 채택해 순식간에 수세에서 공세로 전환할 수 있었습니다. 우크라이나 군은 일론 머스크의 스타링크 무선 인터넷 지원을 받은 무인 드론과 무인 항공기 등으로 러시아 군의 탱크와 각종 무기, 군대를 공격했고, 21세기 디지털 시대에 20세기 아날로그 전쟁을 시도했던 러시아군은 궤멸에 가까운 타격을 입게 됩니다.
팔란티어는 주로 미 국방성을 비롯한 각국 정부와 거래하는 군사관련 빅데이터 소프트웨어 기업입니다. 팔란티어가 고담과 한묶음으로 우크라이나에 제공한 전략전술 소프트웨어 'GIS 아르타'는 쉽게 말해 수백 수천 킬로미터(㎞) 전선의 수백 개 전투현장마다 제갈공명보다 뛰어난 전략가를 지원해주는 프로그램입니다.
우크라이나 전쟁은 인공지능의, 인공지능에 의한 AI 전쟁의 초기 버전입니다. 숱한 과학소설에 등장했던 SF 전쟁이 마침내 현실로 눈 앞에 닥친 것입니다. 러시아도 뒤늦게 중국과 이란 등으로부터 급하게 드론과 무인 항공기 등을 수입해 AI 전쟁으로 대응할 수밖에 없었습니다. 지금 우크라이나와 러시아는 모두 AI와 무인기, 전파방해 무기 재머까지 총동원해 고착된 전선에서 끝없는 소모전을 되풀이하고 있을 따름입니다.
뒤에 다시 언급하겠지만 이런 AI 전쟁 무기들은 에너지를 엄청나게 투입해야 작동됩니다. 우크라이나와 러시아의 에너지는 주로 화석연료와 핵입니다. 우크라이나 전쟁은 이산화탄소를 마구 뿜어대면서 기후지옥을 앞당기는 기후 가속페달 전쟁이기도 한 것입니다. 각국의 압력으로 기후변화에 관한 정부간 협의체(IPCC) 보고서에서도 빠지는 전세계 군사분야 이산화탄소 배출량은 약 5~6%로 추정합니다.
세상에서 가장 잔인한 극장 '스데롯 시네마'
AI 전쟁 시대를 연 2022년 6월 2일로부터 1년 4개월 5일이 지난 2023년 10월 7일은 유대교의 안식일이었습니다. 이날 새벽 하마스는 이스라엘 군의 통신탑 4개를 드론으로 파괴해 통신 인프라를 무력화하면서 기습 공격을 감행했습니다. 해묵은 분쟁을 넘어선 전면전쟁의 시작이었습니다.
오늘도 계속되고 있는 이스라엘-하마스 전쟁 또한 AI 전쟁과 재래식 전쟁을 디지털 체제에 적응해 교묘하게 뒤섞은 끔찍한 복합 살육전쟁입니다.
2023년 9월 20일 78차 유엔 총회의 부대행사인 기후목표 정상회의 연설에서 안토니우 구테흐스 유엔 사무총장은 연간 수십억 달러를 벌어들이는 화석연료 기업들의 탐욕 때문에 기후지옥으로 가는 문이 열리고 있다고 비판의 목소리를 높였습니다.
그런데 기후지옥에 앞서 AI 지옥이 먼저 도착할지 모른다는 우려가 현실로 눈 앞에 펼쳐지고 있습니다. 극소수 거대 인공지능 빅테크 기업들의 무한 탐욕 때문에 그렇습니다.
하마스가 기습공격해 무차별로 이스라엘 사람들을 죽인 곳 중 하나가 이스라엘 남부 도시 스데롯입니다. 9년 전인 2014년 7월 가자지구 분쟁 당시 이스라엘 군이 발사한 미사일이 가자지구에서 터질 때마다 의자에 앉아 구경하던 이스라엘 사람들이 박수를 치며 환호하던 언덕이 있습니다. 그게 바로 가자지구가 훤히 보이는 스데롯의 한 언덕입니다. 당시 덴마크의 기자가 이를 트위터에 올리면서 '스데롯 시네마'라고 이름지었습니다. 세상에서 가장 잔인한 극장 가운데 하나입니다.
전세계 사람들이 충격을 받았고 이스라엘은 거센 비판에 직면했습니다. 그러나 스데롯 시네마는 2009년 가자 전쟁 당시에도 있었던 일입니다. 하마스가 스데롯을 선택한 것은 명확합니다. 증오는 증오를 낳고 복수는 복수를 낳습니다. 끝없는 악순환입니다.
전쟁을 감상하는 디지털 '신세계'
전쟁을 안방에서 놀이처럼 감상하는 세상은 이미 1991년 걸프전 당시에 열렸습니다. 미국의 이라크 미사일 공격을 CNN이 24시간 생중계하면서 열린 신세계입니다. 올더스 헉슬리가 그려낸 ‘멋진 신세계’의 상상은 지금 읽어보아도 우리의 현실을 되돌아보게 합니다.
21세기가 암울한 세기가 될 것임을 상징했던 2001년의 9.11테러 영상도 마찬가지입니다. 미국의 번영과 자본주의 세계화의 상징이던 110층의 초고층 쌍둥이 빌딩 세계무역센터 건물 2개 동이 공중납치된 비행기에 부딪혀 연달아 마치 재난영화처럼 무너지는 충격의 영상이 수도 없이 반복 재생되었습니다.
지금도 수많은 사람들이 자신의 국적과 종교, 인종, 특정 견해나 주장에 따라 환호하거나 분노하면서 우크라이나 전쟁과 하마스-이스라엘 전쟁, 미얀마와 아프리카의 내전 등을 감상하고 있습니다. 그리고 시간이 지나면서 늘 일어나는 익숙한 일로 관심도는 점점 줄어들어 갑니다.
충격의 영상이나 사건도 반복해서 계속 보고 듣게 되면 우리의 뇌는 공포 반응을 억제하는 신경회로를 활성화시킵니다. 이를 반복 억제작동이라고 합니다. 충격에 적응해 에너지를 줄이는 뇌의 자연선택 결과입니다. AI 전쟁의 새로운 스데롯 시네마가 문을 열어도 사람들은 이제 훨씬 강도가 쎈 충격의 영상이나 사건이 아니라면 무덤덤하게 반응할 것입니다. 사실 이런 무신경반응이 다름아닌 앞으로 닥칠 AI 전쟁의 지옥도일 것입니다.
9.11 테러가 일어난지 10년이 되던 2011년 5월 4일에는 버락 오바마 미 대통령과 힐러리 클린턴 국무장관 등이 백악관에서 40여분간 9.11테러의 주모자 오사마 빈 라덴 사살 장면을 실시간 생중계로 지켜보는 장면이 언론을 통해 공개되기도 했습니다. 특수작전 요원들의 헬멧에 설치된 위성 카메라를 통해서였습니다. 빈 라덴 사살 작전에 사용된 소프트웨어가 다름아닌 팔란티어의 구버전 '고담'입니다.
사회주의자 팔란티어 대표의 '오펜하이머 순간'
2023년 7월 25일 팔란티어 대표 알렉스 카프는 <뉴욕타임스>에 에세이를 기고했습니다. '우리들의 오펜하이머 순간(Our Openheimer Moment)'이라는 제목이었습니다. 카프는 핵무기 개발을 주도한 오펜하이머가 나중에 죄책감을 피력한 것을 예로 들면서 핵개발과 비슷하게 AI 개발이 지금 현재 갈림길에 서 있다고 지적했습니다. AI 기술의 힘과 잠재력을 완전히 파악하지 못한 상태에서 AI 개발을 지속할지 선택해야 하는 지점에 도달해 있다는 것입니다.
그도 AI의 위험성을 인정합니다. 마이크로소프트가 발표한 논문을 인용하면서 AI는 이미 일반인공지능(AGI)의 초입에 도달해 있다고 했습니다. 2023년 3월 마이크로소프트의 개발팀은 자사의 블로그를 통해 오픈 AI의 GPT-4가 인간 수준 또는 AGI의 '불꽃'을 보여주었다는 논문을 발표한 바 있습니다. 마이크로소프트는 오픈 AI에 투자한 대가로 챗GPT를 사용합니다.
유니콘은 말의 몸통, 사슴의 머리, 코끼리의 발, 멧돼지의 꼬리, 그리고 1미터 정도의 긴 뿔을 갖고 있는 상상의 동물입니다. 개발자들은 GPT-4의 유니콘 코드에서 유니콘 뿔을 생성하는 알고리즘을 제거해버렸습니다. 그런 뒤 GPT-4에게 유니콘을 그리라고 명령하자 해당 알고리즘이 없는 상태에서도 GPT-4는 유니콘 뿔을 그렸습니다.
그럼에도 카프는 날카로운 도구가 우리를 해칠 수 있다는 두려움 때문에 도구를 만드는 것 자체를 두려워해서는 안된다고 역설합니다. 무엇보다도 그는 AI가 가공할 무기체계를 가능케 할 것이며, 새로운 군비경쟁인 AI 무기 경쟁은 이미 시작됐다고 말합니다. 인공지능 AI 개발의 일시 중단 요구는 쓸만한 AI 제품을 갖지 못한 사람들에게서 나오는 것이며, '우리의 적'들로 하여금 군사기술의 연구개발에 박차를 가해 기술 전장에서 승리하도록 방치하는 정말로 나쁜 전략이라고 목소리를 높입니다. 2019년 마이크로소프트가 미 육군과의 방산 계약을 직원들의 항의로 파기한 것, 구글이 역시 직원들의 반대로 미 국방부와 계약을 갱신하지 않은 것을 예로 들면서 전쟁무기 개발을 거부하는 실리콘밸리의 개발자들을 정면으로 비판합니다.
자유 민주사회가 승리하기 위해서는 도덕 이상의 하드파워가 필요하고 21세기 하드파워는 소프트웨어를 기반으로 구축될 것이며, .지속가능한 평화를 위한 전제조건은 든든한 전쟁 준비 태세에서 비롯된다는 주장입니다.
이것이 스스로 사회주의자임을 자처하는 AI 전쟁기업 팔란티어 대표의 철학입니다. 그는 팔란티어 임직원에게 명상을 가르칠 정도로 명상에 조예가 깊은 사람입니다. 사실 치열한 경쟁에 시달리는 실리콘밸리의 개발자들 사이에서는 명상 열풍이라고 말할 수 있을 정도로 명상 수행을 하는 사람들이 많습니다. 샘 올트먼도 미국에 위파사나 명상을 소개하고 수행을 지도하고 있는 저명한 선 수행자 잭 콘필드의 제자라고 할 수 있을 만큼 명상 수행을 하는 사람입니다.
블레츨리 선언이 드러내 준 AGI 경쟁의 실상
지난 11월 2일, 인공지능의 위험에 전세계 국가가 공동 대응해야 한다는 '블레츨리 선언'이 발표되었습니다. 이른바 G7 국가, 중국, 인도, 한국 등에 더해 인도네시아, 케냐, 르완다 등 개도국까지 포함해서 28개 나라와 유럽연합 등이 참가한 제1회 ‘인공지능 안전 정상회의’의 결과물이었습니다.
블레츨리는 인공지능에 조금이라도 관심을 가진 사람이라면 누구나 알고 있는 인공지능의 창시자 앨런 튜링이 일했던 곳입니다. 2차대전 당시 영국 정부는 독일군의 암호를 해독하기 위해 케임브리지 대학과 옥스퍼드 대학의 수학자, 암호학자 등 전문가들을 대거 소집, 두 대학의 중간에 위치한 블레츨리파크에 암호학교를 설치했습니다. 앨런 튜링은 여기서 동료들과 함께 암호 해독기이자 최초의 컴퓨터인 '콜로서스'를 개발했습니다.
그런데 이 회의 참석자 가운데 60%가 미국과 영국 출신이고 3분의 1이 빅테크 기업 대표들이었습니다. 선언도 대화를 계속한다는 사실만 확인하는 선언이었고, 실제 규제 문제에서는 초보 단계의 조처조차 합의된 게 아무 것도 없었습니다. 국제 규제 기관의 설립에 대해서도 빅테크 기업들은 자율 규제를, 국가 대표들은 국가의 규제를 주장하는 등 각자의 이해관계에 따른 온갖 주장만 난무했을 뿐이었습니다.
정상회의 직전인 10월 30일 미국의 조 바이든 대통령은 국가 안보, 건강, 안전 등을 위협할 수 있는 AI 개발자는 안전 시험 결과를 정부에 제출하도록 하는 행정명령에 서명했습니다. 그런데 이 행정명령은 기존에 개발된 인공지능을 제외하고 신규 개발 인공지능에 대해서만 적용됩니다. 후발 주자들에게서 사다리 걷어차기라는 불만이 거세게 터져 나왔습니다.
스탠퍼드 대학 교수이자 AI 스타트업 랜딩 AI의 대표이기도 한 앤드루 응은 일부 AI 기업이 AI가 인류를 멸종시킬 수 있다는 두려움을 퍼뜨리며 시장 지배력을 확대해 오픈소스 진영과의 경쟁을 회피하려 한다고 비판했습니다. 한마디로 AI 정상회의와 블레츨리 선언은 지금의 거대 빅테크 기업들과 미국, 중국 등 AI 선진국들의 AGI 경쟁 실상을 있는 그대로 드러내 준 이벤트였다고 할 수 있습니다.
엊그제인 12월 1일, 미국, 독일, 일본 등 주요 7개국(G7)이 인공지능 관련 국제 규칙 만들기 작업인 '히로시마 인공지능 프로세스'의 최종 합의안을 마련했다는 보도가 나왔습니다. 주요 7개국은 2023년 5월 일본 히로시마 정상회의에서 이 프로세스를 가동하기로 합의한 바 있습니다.
인공지는 규제에 한 걸음 더 나아간 의미있는 진전임은 분명합니다. 그러나 이 합의안 또한 국제법으로서의 구속력은 전혀 없습니다. 실제 규제는 각 나라가 다시 자국의 법과 제도로 구체화해야 합니다.
세상은 늘 바뀝니다. 그러나 우리는 단 1초 앞의 미래조차 내다 볼 수 없습니다. 수많은 변수들이 우리의 삶과 세상의 변화에 영향을 미치기 때문입니다. AGI가 어떤 모습으로 등장하고 세상을 어떻게 바꿀지, 영화 <매트릭스>의 세상이 도래할지, 3차 AGI 세계대전이 일어나 인류가 멸종할지 어쩔지 우리는 전혀 알 수가 없습니다.
우리는 다만 원인이 있으면 결과가 있다는 선형인과론에서 벗어나 원인과 결과가 서로 의존하는 상호인과론과 이것이 있으면 저것이 생기고 이것이 사라지면 저것도 사라진다는 붓다의 연생연멸(緣生緣滅) 이치에 따라 지금 여기에서 최선의 공동선을 실천할 따름입니다.
그것이 세상에 대한 성찰이고 지금 여기 우리의 실천 지침입니다. 그것이 지금 여기에서 탐욕과 증오, 어리석음을 버리고 평화와 공동선의 씨앗을 서로 함께 뿌리는 일일 것입니다.
AGI 개발과 디지털 체제의 실상을 알고, 아는 만큼 국가와 정치에 대한 시민행동을 실천하는 것이 더없이 필요한 시대입니다. 무엇보다도 끝없는 소모전의 적대적 공존을 끝내고 전쟁 지옥의 나락으로 떨어질 수 있는 위험을 제거해야 합니다. 평화와 공존을 실천하는 강력한 주권자 국민의 더불어함께 사는 세상이 눈을 떠야 합니다. 끝.
(* 세번째 글로 이어집니다. 이 글은 책읽는사회문화재단의 <웹진나비>에 동시 게재됩니다.)
전체댓글 0