"사람이 사람의 목숨을 빼앗는 것, 이 살상조차 인간이 고민하지 않겠다는 것인가? 다른 인간의 존엄성을 파괴하는 그 결정을 기계에게 맡길 것인가? 그렇다면, 도대체 인간에겐 무엇이 남나? 인간은 과연 무엇으로 사는가? '자율살상무기체계 규제 회의'는 바로 이를 얘기하는 자리다. 인간됨의 최저선을 정하는 자리다."
문아영 피스모모 대표가 지난 10일 <프레시안>과 만나 말했다. 지난해부터 참관해 감시하고 있는 '유엔(UN) 특정재래식무기금지협약(CCW) 산하 자율살상무기체계(LAWS) 정부전문가그룹(GGE)' 회의를 두고 한 말이다.
복잡한 단어로 표현되지만, 쉽게 말해 'AI 살상 무기' 규제 원칙을 정하는 국제 회의다. 국제사회가 AI를 기반으로 한 자율 무기의 위험성을 인식하며 2013년부터 논의를 추진했다. 한국도 참여한다. 그러나 10년이 지난 지금까지 협약 초안도 완성되지 않았다.
문 대표는 "한국은 국제사회에서 대표적인 '방해국'으로 꼽힌다"고 말했다. 그러면서 2022년 러시아 우크라이나 침공, 2023년 이스라엘 가자지구 집단학살 등 전장마다 AI 기반 살상 무기가 활용된 사실을 지적하며 "이 협약이 5년 전에 나왔더라면, 과연 지금 어땠을까?"라고 물었다.
올해 1차 회기는 지난 2~6일간 스위스 제네바에서 진행됐다. 피스모모는 참관인으로 참여해 온라인으로 모든 회의를 지켜봤다. 문아영 대표로부터 10년째 공전 중인 논의의 이면과 '방해국'으로 지목된 한국의 책임 문제를 들었다. 답변을 일문일답으로 정리했다.
프레시안 : 지금 협약을 만드는 중이면, 현재 국제사회엔 AI 무기와 관련된 규제나 원칙이 전혀 없나?
문아영 : 그렇다. 말그대로, 진짜 아무 것도 없다. 무주공산에서 무기를 먼저 개발하고, 개발한 대로 막 쓰고 있다. 누구도 아무 제재를 받지 않는다.
프 : '특정재래식무기금지협약 산하 자율살상무기체계 정부전문가회의'란 이름이 복잡하다. 풀어서 설명해주면?
문 : 먼저 특정재래식무기금지협약은 '과도하거나 무차별적인 살상을 초래할 수 있는 무기를 금지'하는 협약이다. 1980년 발효됐다. 참혹한 전쟁 속에서도 최소한의 인도주의적 원칙을 어기지 않겠다는 약속이다. 여러 의정서가 있는데, 1998년 발효된 '실명 레이저 무기 금지' 의정서가 특히 유의미하다. 눈에 레이저를 쏴 실명을 일으키는 무기가 세상에 나오지 못하게 선제적으로 막았다. 왜 자율살상무기는 이렇게 금지하지 못하냐는 질문이 나오는 이유다.
이렇듯 특정 무기 금지를 논의해온 협약이 있기에, 이 틀 안에서 자율무기체계 규제 논의가 추진됐다. 120여개 당사국이 정부 전문가 회의 기구를 만들어 협약을 만드는 논의를 위임했다. 회의는 2016년 시작됐다.
프 : 자율살상무기체계란 무엇인가? 그냥 AI 살상 무기라고 하면 안되나?
문 : 무기가 살상 표적을 식별하고, 살상을 해도 된다고 판단해서 실행하기까지, 인간의 어떤 개입도 없는 무기 시스템이다. 그런데 용어를 두고 강한 규제를 주장하는 국가와 그렇지 않은 국가 간에 이견이 있다. 강한 규제를 원하는 쪽은 치명적 피해를 의미하는 'Lethal(살상)' 단어를 빼고 '자율 무기 체계'라고 더 넓게 규정하길 원한다.
이를테면, 인간이 '클릭기' 역할만 하는 경우가 있기 때문이다. 2023년 가자지구 침공에 활용된 '라벤더'는 살상 대상을 식별하는 무기였다. 'AI 기반 의사결정 지원' 체계로 분류된다. 그런데 라벤더가 표적을 추천하면, 이스라엘군이 최종승인(살상)을 클릭하기까지 평균 '20초'가 걸렸다. 고작 20초다. 그런데도 라벤더를 '식별'만 하는 무기로 보는 게 옳은가? 인간의 개입이 형식적일때, '저건 추천만했다'고 선을 긋는 게 무슨 의민가?
프 : 지난 10년 간 초안조차 만들어지지 않은 이유는, 이런 개념을 둘러싼 갈등 때문인가?
문 : 주요 배경 중 하나다. 회의를 오래 감시해온 단체 국제여성평화자유연맹(WILPF)는 주요 방해국으로 한국, 러시아, 미국, 이스라엘, 호주 등 5개국을 꼽아 왔다. (WILPF는 이 회의가 만장일치제인 점을 이용해, 이들 국가가 "비생산적인 논쟁 등으로 의사 진행을 방해하거나 논의를 지연시켰다"고 지적해왔다.)
프 : 한국은 이 회의에서 뭘 말하고 있나?
문 : 한국은 크게 3가지를 일관되게 주장해왔다. 자율 살상 무기 개념규정에 '치명적(살상·Lethal)'이란 용어를 넣어야 하고, 특성 규정엔 '식별' 기능이 꼭 들어가야 하며, 규제가 적용될 범주에서 '연구·개발'은 빼자는 것이다.
프 : 어떤 의도라고 볼 수 있나?
문 : 모두 규제 대상을 좁히는 결과로 이어진다. '치명적'이란 한정어는 살상이 아닌, 심각한 상해나 파괴를 일으키는 자율 무기는 제외할 수 있다. 식별 규정을 포함하면, 식별 기능은 없는 다양한 자율 무기가 또 빠져나간다.
'연구·개발은 제외하자'에 대해선 이런 질문을 할 수 있다. 그럼 핵무기는 무엇이었나? 군사적 이용이 충분히 가능한 기술을, 평화적으로도 이용할 수 있다는 이유로 규제해서 제외해도 되나? 기술이 무기가 되는 건 한 끝 차이다. 이게 이중 용도의 무서움이고, 절대 외면해선 안될 진실이다.
프 : 회의 분위기는 어떤가? 강한 규제를 주장하는 나라들은 어떻게 대응하나?
문 : 매우 적극적인 국가 중 하나가 오스트리아다. 오스트리아는 지난해 자율 무기 체계 규제를 다루는 자체 컨퍼런스도 국가 주도로 열었다. 협약 당사국 120여개국보다 많은 180개국이 참가할 정도로 관심이 뜨거웠다.
회의에서 오스트리아 대표단이 '북극성' 같다고 생각한 적이 있다. 무기 시장을 활성화하고 싶은 나라들은 어떻게든 자기 이익을 위해 '이건 넣어주세요', '이건 빼주세요' 하고, 규제 수준을 낮추기 위해 어떤 방법으로든 애쓰고, 미국이 어떤 판단을 밝히면 그에 동의한다는 국가들 발언이 뒤를 잇고… 이런 지난한 상황에서, 오스트리아 대표단이 한 번 의사 진행 발언을 한 적이 있다.
우리가 여기 왜 있는지를 기억하자고. 우리는 그런(약화된) 규제를 만들려고 모인 게 아니고, 인간이란 무엇이어야 하는지를 논하는 거라고. 우리의 지금 논의가 인류의 다음을 결정하게 된다고. 이것에 대한 책임을 다들 환기했으면 좋겠다고. 그 말을 듣는데, 너무 고마웠다.
프 : '방해국'들은 왜 느슨한 규제를 고수하나?
문 : 대부분의 방해국은 무기 산업이 활성화된 국가다. 이 점이 핵심 아닐까 싶다. 특히 미국은 자체 훈령(DoDD 3000.09)으로 자율 살상 무기체계 지침을 두고 있다는 이유로, '국가별 규제로도 충분하니 강한 국제 규범은 필요하지 않다'고 한다. 미국이 이렇게 나가면, 자신들의 무기 시장 활성화나 투자 계획을 계산하는 싱가포르, 한국, 일본 등도 이를 어느 정도 지지하고 나선다.
그런데 한국 예를 보자. 지난 1월 시행된 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)은 국방 또는 국가안보 목적의 AI 사용에 대해선 법 적용을 면제한다. 명시적으로 법 규제 바깥에 둔다. 즉 각국에 맡기는 건 국제법 근거를 만들지 않으면서 편의대로 규제하겠단 거다.
프 : 한국 정부 태도는 이번 3월 회의에서도 같았나?
문 : 앞선 주장은 똑같이 유지했다. 다만 조금 변한 부분도 있다. 사실 깜짝 놀랐다. 4일 차때, 한국 대표가 '국제인도법의 제한을 받지 않는 무기는 없어야 한다'는 식으로 몇 차례 발언했는데, 지금까지 들어본 적 없는 내용이었다. 국제인도법 준수가 불가능한 무기는 억제(Refrain)가 아니라 금지(Prohibit)해야 한다고도 했다. 또 일부 국가가 금지 범위에 제조는 제외하고 수출, 무기 이전 등만 넣자고 할 때, 제조 과정도 규제돼야 한다고 발언했다.
프 : 정부의 입장이 조금 바뀐 건가?
문 : 변화는 반갑지만, 이게 한국 정부의 안정된 입장이라고 보긴 어렵다. 정부는 어떤 딜레마 속에서 조율 중인 것 같다. 한국은 군수산업을 국가 주요 산업으로 정책화하고 이미 많은 무기를 수출한다. 추측컨대, 강한 규제가 도입되면 한국의 이익이 줄어든다는 판단에 강력한 금지까지 가려하진 않지만, 동시에 국제 사회의 모범적 행위자로 역할해야 한다는 부담이 작용하는 것으로 보인다. 외교부 내에 인도주의적 실천에 대해 고민하는 분이 한 명도 없진 않을 것이다.
프 : 그럼 이 회의는 어디까지 와 있나?
문 : 올해 반드시 합의를 도출해야 한다. 올해를 놓치면, 다음 시점은 5년 뒤로 미뤄진다. 특정재래식무기금지협약 의결 구조상, 5년 마다 '검토회의'가 열린다. 2021년, 2026년, 2031년 터울이다. 검토회의는 협약의 최상위 의사결정기구와 같다. 정부전문가회의에서 안을 완성해 협약의 검토회의에 부치면, 다시 이를 만장일치로 합의해야 의정서로 만들 수 있다.
올해 11월 7차 검토회의가 열린다. 이번에 실패하면 다음은 2031년이다. 지금도 AI 무기로 사람이 죽고 있다. 5년 동안을 또 무주공산으로 두자고? 이번에 규제를 만들지 않으면, 사실상 기계가 사람을 죽이는 사회를 받아들이겠다는 포기선언과 다름없다.
프 : 남은 절차는, 현재 합의 수준은?
문 : 회의는 만장일치로 의결돼 합의가 중요하다. 현재 '투티어 어프로치(Two-tier Approach, 이중 접근법)' 논의까지는 도달했다. 치명성이 높은 무기는 완전 금지하고, 치명적일 수 있는 무기는 규제하자는 이중 규제 방식이다. 한국 정부는 여기에 동의하는 입장이다. 오는 9월, 검토 회의 전 마지막 회의인 2차 회기가 열린다. 반드시 이번에 합의를 모아 협약을 도출해야 한다.
프 : 대표적으론 2022년 우크라이나, 2023년 가자지구 등에 AI 무기가 살상에 쓰였다. 한국 정부도 여기에 책임이 있나?
문 : 당연히 책임이 있다. 적어도 2021년, 6차 검토회의 때 구속력있는 국제 규범이 마련됐다면, 이렇게 아무 것도 없는 공백상태에서 마음대로 무기를 쓰는 건 쉽지 않았을 거다. 한국은 그동안 '지연을 유발하는 국가'로 명시적으로 꼽혔다. 지연의 책임은 크다.
관련해 한국의 제네바협약 제1의정서 제36조 위반도 말하고 싶다. 제네바 협약은 당사국에게 새로운 무기를 도입할 땐 그 무기가 초래할 모든 위험을 예방적으로 검토하라는 의무를 둔다. 유럽연합 경우 제도적인 노력을 한다. 그러나 한국은? 전무하다. 제네바 협약 불이행이다.
프 : AI는 기술발전으로 정밀해질테니, 인간의 개입은 필요가 없나?
문 : 2020년, 리비아 내전에 쓰인 터키산 카르구-2(Kargu-2) 자율 살상 드론은 후퇴하던 부대원을 공격했다. 이 드론은 목표물이 나타날 때까지 배회하다가 목표물이 나타나면 사살하는데, 항복하고 후퇴하는 맥락을 모르는 거다. 사람이 손을 흔들어 항복한다는 신호를 항복으로 받아들일지, 공격으로 받아들일지, 알고리즘이 판단하지 못한다.
가자지구 학살에 쓰인 라벤더도 정밀성이 매우 떨어진다. 사람 표적을 성별, 체격, 얼굴, 색깔 등 만으로 식별해서다. 알려진 오차율만 10%인데, 표적 3만 7000명 중 3700명이 오인돼 사망한다는 말이다. 그런데 표적 1명 당 최소 15명이 공격 피해를 입을 수 있다. 3만 7000명 표적 살해를 위해 민간인 55만 5000명의 피해를 상정한다. 이번 가자학살은 AI 무기 실험실이라고 불렸다. 이런 '죽이는 경험'을 통해 정밀도를 높여 간다는 게 괜찮나? 무고한 죽음이 기술 개발의 자원으로 이용돼도 되나? 기술이 발전하면 타격 정밀도를 높인다는 말은, 이런 말도 안되는 민간인 살상과 오용을 용인할 지, 말지의 문제기도 하다.
프 : 시민들은 어떻게 대응해야 하나?
문 : 여론의 역할을 해서 정부에 부담감을 주셨으면 좋겠다. 시간을 들여 이 문제를 들여다 보고 고민해달라. (무기산업이) 국가에 이익이 된다 해서 국익을 모든 것의 판단 기준으로 삼을 것인가? 나와 같은 인간을 기계가 대신 죽이는 것에 대해 내가 동의할 것인가? 국제인도법을 준수할 책임이 있는 국가가 그 책임을 다할 수 있도록 목소리를 내어 달라. 또한 지금은 기후위기 등 국경을 넘나 드는 지구적 규모의 위기가 일상화된 사회다. 국경에 붙잡혀 그 벽을 공고히 하기 보다, 이 벽을 넘는 고민과 실천을 함께 해주길 바란다.
전체댓글 0