인공지능(AI)이 정치와 만난다면?

[좋은나라이슈페이퍼] 디지털 정치의 진화; 인공지능 정치의 가능성과 한계

인공지능이 바둑으로 인간을 이긴 2016년 이후 5년의 세월이 지났다. 5년이라는 짧은 기간동안 인공지능은 이미 우리 사회에 깊숙이 뿌리를 내리고 있다. 다양한 디지털 전환기술 중에서 인공지능은 기술적인 면에서 이미 파괴적 혁신을 주도하고 있으며, 우리가 미처 인식하기도 전에 우리 사회의 정치·경제·사회·문화 전반에 걸쳐 엄청난 변화를 가져오고 있다. 그리고 이러한 인공지능 발(發) 변화는 다양하게 나타나고 있으며 그것이 긍정적이건 부정적이건 우리 사회에 큰 파장을 불러일으키고 있다.

한편 이러한 인공지능이 정치와 만났을 때 어떤 일이 벌어질까? 아마 쉽게 예측하기 힘든 논쟁이 될 것이다. 정치행위는 인간의 가장 고도의 사고와 환경적·주객관적 요인이 결합된 산물이기 때문이다. 정치가 항상 선하지도, 악하지도 않은 것은 정치가 고도의 인간 이성의 활동이지만, 가장 저급한 결정의 산물이기도 하기 때문이다. 그런 맥락에서 인공지능의 정치적 활용은 초기 진입장벽은 높고 부작용에 대한 신뢰감은 낮을 수밖에 없다. 하지만 인공지능의 장점을 잘 활용한다면, 우리의 삶은 더 편리하고 올바른 정치행위를 할 수 있다는 점에서 인공지능의 정치적 활용을 무조건 비판할 수만은 없을 것이다. 그런 맥락에서 인공지능이 현 단계 정치과정과 민주주의에 얼마나 활용되고 있으며, 그 가능성과 전망을 모색하는 것이 필요하다. (필자)

인공지능(AI) 시대

21세기 시작된 4차 산업혁명은 과거와는 차원이 다른 사회혁신의 패러다임을 만들고 있다. 특히 디지털 전환(digital transformation)으로 불리는 아날로그에서 디지털로의 혁신은 인류의 삶을 근저에서부터 변화시키고 있다. 특히 주목할 만한 4차 산업혁명 기술은 인공지능으로 불리는 디지털 신경망 기술이다. 영국 맨체스터 대학교의 앨런 튜링(Allen Turing)이 1950년에 발표한 계산기와 인간지능(Computing Machinery and Intelligence)이라는 제목의 논문에서 컴퓨터가 스스로 생각할 수 있을 것인지에 대한 증명 방법을 제시하면서 구체화된 인공지능 개념은 공상 과학 소설이 아니라 우리의 삶에 밀접히 들어오고 있다.

인공지능은 컴퓨터를 이용하여 마치 인간의 뇌와 같은 신경망을 구축하고 학습능력과 추론능력, 지각능력, 자연언어의 이해능력 등을 컴퓨터 프로그램으로 실현한 알고리즘으로 정의할 수 있다. 무엇보다 2016년 3월 9일부터 서울에서 전 세계 중계까지 되면서 세상을 놀라게 했던 구글 딥마인드(Google Deepmind)의 인공지능 알파고(AlphaGo)와 이세돌 9단의 바둑 대결은 인공지능이 4 대 1로 승리하면서 기술진보에 많은 사람들이 놀랐다.

이른바 '알파고 쇼크(AlphaGo shock)' 이후 인공지능은 우리 사회에 깊숙이 진입하였다. 기업들은 마케팅과 신제품 개발에 인공지능을 결합한 지 오래이고, 인사채용과 재고관리 등 영역에서도 인공지능을 도입했다. 테크기업이라 불리는 구글이나 아마존, 페이스북 등은 인공지능을 활용한 인사채용, 고객 관리, 맞춤형 서비스가 보편화되었다. 일상생활에서도 인공지능은 이미 음성정보 서비스에 도입되었는데, 기존 ARS가 사라지고 인공지능으로 응대하는 시스템은 많은 기업과 공공기관에 도입되었다. 복지 분야에서는 노인병원과 요양시설에서 사용되고 있으며, 장애인을 도울 수 있는 인공지능 로봇도 현실화하고 있다. 의학분야에서도 IBM 왓슨을 필두로 인공지능은 인간과 협업하여 환자를 진단하거나 MRI, CT 등의 정밀해석에 도움을 주고 있다. 미국에서 법조 분야에서 판례와 법조문 비교 등에 인공지능 활용은 널리 알려진 바다. 일상생활에서도 가전제품과 스마트 기기에 인공지능이 도입되었고, 최근 광고로 유명해진 인공지능 최초 가상 인플루언서 “로지”도 활약하고 있다.

디지털 정치와 3가지 인공지능 실험

인공지능이 인류의 삶 다양한 영역으로 진출하고 있지만 주목할 만한 것은 정치이다. 정치의 디지털 기술 활용은 1980년대부터 시작되어, 오늘날 디지털 정치는 거스를 수 없는 추세가 되었다. 디지털 정치가 전면에 등장한 것은 대의민주주의의 취약점인 대표와 시민간의 각극이 확대되는 민주적 대표성과 책임성을 보완하려는 시도에서 시작되었다. 그 대안으로 등장한 것이 디지털 기술을 활용하여 시민이 참여하는 직접·심의민주주의 실험이다.

디지털 정치가 확산되면서 시민 참여가 확대되고 다양한 정치적 토론이 가능하여 다수의 민주주의 국가들이 민주주의를 강화하려는 방법으로 디지털 기술을 적용하고 있다. 그뿐만 아니라 코로나 19(COVID-19) 팬데믹(pandemic) 상황에서도 정치적 스케줄이 정상적으로 가동되는 것은, 선거와 정치활동에서 디지털 기술이 적극 도입되어 활용되고 있기 때문이다.

이러한 디지털 정치의 발전은 최근 4차 산업혁명 기술로 주목받는 인공지능을 정치에 활용하려는 것으로 발전하고 있다. 2021년 현재 인공지능의 정치적 활용 수준은 전 세계적으로 크게 세 방향에서 발전하고 있다. 세부적으로 첫째, 인공지능 정치인 실험, 둘째, 정치·행정 인공지능 도우미, 셋째, 정책결정 인공지능 등이다.

첫째, 인공지능 정치인은 가장 활발하게 개발 중이다. 인공지능 정치인에 대한 생각은 이미 20세기부터 논의되었다. 최초의 시도는 이른바 정치토론에 최적화된 챗봇(chatbot) 형태의 정치인이었다. 2017년 11월 뉴질랜드에서는 세계 최초의 인공지능 정치인 샘(SAM)이라는 인공지능 여성 정치인 – 좀 더 정확히 표현하면 챗봇 –을 개발했다. 샘은 인공지능 정치인으로 현재 페이스북 메신저와 연결되어 페이스북 유저들과 대화를 나누고 복지, 인구구조 변화를 통해 바라본 뉴질랜드의 미래, 기후 변화 대처방안 등을 시민들과 토론하고 있다. 여기에 특정한 문제가 제시되면 자세한 분석은 물론, 페이스북 유저에게 여론 조사를 하고, 더 많은 사람들이 원하는 방향으로 정책을 제안하기도 한다.

또한 일본에서도 시장 선거에 인공지능이 출마한 적이 있다. 2018년 4월 15일 일본의 도쿄도(東京都) 타마시(多摩市) 시장선거에서 마츠다 미치히토는 일본의 선거법상 인간만 출마 가능해 인공지능을 대신해 대리출마 출마했다. 그는 당선된다면 인공지능을 활용해 더 나은 도시를 만들겠다고 공약을 제시했고, 선거결과 마츠다 미치히토는 3위로 낙선했다.

미국에서도 로봇 대통령인 로바마(ROBAMA, ROBotic Analysis of Multiple Agents)를 2025년까지 개발을 목표로 하고 있다. 벤 괴르첼(Ben Goertzel)은 2015년부터 인공지능 로봇 대통령으로 미국 대통령인 버락 오바마와 로봇의 이름을 결합한 로바마를 개발중인데 소셜미디어를 이용하여 법과 정책 의사결정을 지원하는 인공지능으로 주목받았다. 그 밖에 2018년 러시아 대통령 선거에서도 '앨리스'라는 인공지능 후보가 출마하는 등 인공지능 정치인은 확대되고 있다.

둘째, 정치·행정과정의 인공지능 도우미 분야이다. 유럽의 에스토니아는 전자투표를 의회선거에 도입하고, 블록체인 시민증을 발급하기도 하는 등 ICT 정치행정 혁신을 시도하고 있다. 에스토니아에서 2015년에 도입한 인공지능 '노라(Nora)'는 의원을 지원하기 위한 정보분석업무를 지원하고 있다. 노라는 하원의원이 평생 걸리는 입법정보분석은 순식간에 지원해 준다. 이를 바탕으로 2020년 에스토니아는 의원 및 직권을 도울 인공지능 시스템을 새롭게 개발하여 '한스(Hans)'라고 명명했다. 한스는 음성인식을 이용하여 의원들의 토론 내용을 기록하는 일을 주 업무로 하고 있지만 앞으로 법안 분석과 번역, 시민 여론 분석 등의 업무 영역을 확장할 것으로 알려진다.

일본에서도 인동지능 도우미가 활성화되고 있다. 도쿄시 시부야구(渋谷区)는 일본 마이크로소프트와 공동으로 인공지능 ‘시부야 미라이(SHIBUYA MIRAI)’를 개발해 지난 2017년 11월 LINE을 통해 공개한 바가 있다. 미라이는 일본어로 ‘미래’라는 뜻이며, 7살 소년을 형상하고 있다. 미라이는 시부야구민으로 등록해 구청 행정업무 도우미 역할을 하고 있다. 시부야 미라이는 음성인식 기반의 인공지능으로 다양한 민원 업무 도우미 인공지능으로 주목받고 있다. 예를 들어 "쓰레기를 버리고 싶다"라고 말을 하면 이와 관련한 정보를 소개하는 방식이다.

한국의 국회도 입법정보시스템에 인공지능을 적용한다. 국회는 2020년에 법률안을 조문 단위로 추출해 인공지능이 학습할 수 있는 데이터로 바꾸는 사업을 확정했고 2024년까지 지능형 입법정보 서비스 구축 사업을 진행중이다. 지능형 입법정보 서비스는 법률안을 비교하는 기능을 지원하고 챗봇과 회의록도 영상을 활용해 제작할 예정이다.

셋째, 정책결정 인공지능이다. 정책결정 인공지능은 아직은 낮은 수준이지만 단순 행정과정의 도우미 역할보다는 중요한 기능을 수행한다. 정책결정 인공지능은 주로 행정영역에서 다양한 사례가 확인된다. 미국 네바다보건당국(SNHD)의 식중독 예방에 인공지능 알고리즘을 사용하여 식중독 예방을 위한 식당 위생 검사를 인공지능으로 실시하고 있다.

최근 정책결정 인공지능 활용 실험으로 의미있는 결과는 일본 나가노현(長野県)이다. 나가노현은 교토대학, 히타치(日立)제작소 등과 공동으로 ‘나가노현 지속 가능한 미래정책연구’를 추진하였다. 나가노현은 지방정부 인구 감소, 고령화, 지역경제 위축 등 다양한 문제에 직면해 2040년까지 예측 가능한 문제의 해결방안을 도출하는데 인공지능을 활용했다. 그 결과 인공지능은 2만 개 정도의 시나리오를 도출했고, 다시 23가지로 축약한 이후 이를 전문가와 직원들이 워크숍을 거쳐서 최종적으로 6개 시나리오로 집약했다.

이처럼 정책과정에서 인공지능 활용은 단순히 인간이 산출할 수 있는 예상치보다 다양한 변인을 투입하여 과학적인 대안을 추출하여 제시한다는 점에서 의미있다. 아직은 정책결정을 직접 인공지능이 수행하지는 않지만, 최적화된 정책 대안을 제시한다는 점에서 과거 정치적 관계나 이익집단 갈등 등의 문제로 인해 정책결정에 어려움이 있는 것을 해소할 수 있다는 점에서 새로운 실험이라 할 수 있다.

인공지능 정치를 위한 과제

이상의 여러 시도에도 불구하고 인공지능의 정치적 활용은 아직 광범위한 정치와 행정과정 영역으로 진화하지는 못했다. 근본적으로 초기 시도는 다분히 이벤트 성에 가까운 것으로 평가할 수 있다. 따라서 인공지능의 정치적 활용과 이를 위한 시민들의 정치참여 활성화는 이제부터 본격화될 것으로 예상할 수 있다.

그렇다면 디지털 전환 시대의 인공지능 정치의 미래는 어떻게 될 것인가? 인공지능 정치가 시작하기 위해서는 먼저 인공지능 정치에 대한 불안감과 불신 문제를 해결해야 한다. 대표적으로 하라리(Harari)는 <사피엔스>에서 21세기 인본주의 시대가 지나고 미래에는 인공지능 알고리즘이 우리 삶을 지배할 것이라고 비관적으로 예측했다. 그리고 물리학자 스티븐 호킹의 사후 출간된 <빅퀘스천에 대한 간결한 대답>에서 인공지능은 인류를 멸종으로 내몰 수 있는 요인으로 지적하기도 했다. 이런 불신과 불안감이 해소되기 전에는 인공지능의 정치는 쉽게 전면에 등장하기 어려울 것이다.

그리고 현실 정치권에서도 인공지능 정치의 불안과 비판이 있다. 첫째, 알려져 있다시피 인공지능 정치봇을 이용한 가짜뉴스의 범람은 심각한 정치 쟁점이 되고 있다. 둘째, 정치과정이나 정책결정 과정에서 결정 책임을 회피하거나 힘을 싣는 수단으로 인공지능을 이용할 소지도 있다. 그럴 경우 아무도 정치에서 책임을 지지 않을 우려도 있다. 셋째, 인공지능 알고리즘의 조작 가능성은 정치의 불확실성을 더욱 크게 할 수 있다는 점에서 위험하다. 더 큰 문제는 정치적 결정을 내리는 알고리즘이 조작될 경우 기존의 정치체제를 유지하는 보수적인 방향의 결정을 할 수도 있다. 최근 ‘아마존 인공지능 면접’과 ‘이루다 사건’을 보면 인공지능의 편견 강화나 사전적인 인식의 위험성을 이미 우리는 알고 있다. 자칫 과학이라는 표피를 보고 진실을 파악하지 못할 가능성은 민주주의에서 시민의 정책결정을 혼란스럽게 할 수 있다. 넷째, 가장 중요한 쟁점은 인공지능이 내린 결정의 인과 관계에 대한 역추적이 불가능하다는 점이다. 인공지능은 선행 심화학습(deep learning)된 수백 가지가 넘는 변수들을 가지고 시나리오를 제시해주는데 실제로 왜 그러한 시나리오가 만들어지게 되었는지는 설명하지 못한다. 이는 단순한 선호 의사결정이 아닌 고도의 이해관계 조정이 필요한 정치나 정책 결정에서 인공지능이 제시하는 대안을 정치인이나 시민이 용납할 수 있을 것인가의 수용성 문제로 연결된다.

그러나 인공지능 정치가 비관적인 것만 있는 것은 아니다. 무엇보다 기성 정치권에 실망한 시민들이 스스로 인공지능 정치의 등장을 기대하고 있다는 것이다. 여러 가지 불확실성으로 부정적인 전망이 많을 것으로 보인 인공지능 정치에 우호적인 시각도 발견된다. 2021년 5월 27일 스페인 IE 대학의 혁신 거버넌스 센터(Center for the Governance of Change)는 전 세계 11개국 시민 2769명을 대상으로 AI 기술의 정치 적용 가능성을 묻는 설문 조사를 진행했다. 조사 결과 인공지능의 여러 한계에도 불구하고, 유럽인의 51%가 정치 부문에 적용 확대를 지지하는 것으로 나타났다. 설문 조사는 현재 유럽 의회 의원을 인공지능 정치인으로 대체하는 방안에 대해 스페인 66%, 이탈리아 59%, 에스토니아 56%가 찬성했다. 하지만 영국은 응답자의 69%, 네덜란드 56%, 독일 54%가 반대 의사가 있었다. 역시 이들 국가의 반대 이유로는 해킹 가능성과 인간이 원하지 않는 방식으로 정책이 결정될 수 있다는 것이다.

이처럼 인공지능 정치에 관한 평가는 다양하다. 분명한 것은 인공지능 정치가 상당히 매력적이지만, 불확실성 또한 높기 때문에 쉽게 도입되기는 어려울 수 있다. 정치는 다른 생각을 가진 집단과 협상과 타협을 통해 양보하고 협의하는 이해조정의 과정이 중요한데 인공지능이 이 과정을 수용하기는 아직 기술발전의 수준이 낮기 때문이다. 하지만 인간의 지적능력의 부족함을 채워주는 영역에서의 인공지능 활용은 점차 늘어날 수도 있다. 정치에서 법안정보의 제공이나 정책결정의 선택지를 제공하고, 실제 민원인과의 상담을 하는 낮은 수준에서의 정치적 활용은 점차 확대될 것이다. 아직은 위험성보다는 효율성이 크기 때문이다.

무엇보다 인공지능이 정치에 직접적인 의견을 제시하고 안건을 상정할 단계에 이르기 위해서는 기술의 문제보다 정치라는 고도의 사회적 행위의 주체와 책임성·민주성에 관한 철학적 고찰이 필요하다. 따라서 정치라는 행위 자체에 대한 의미와 철학적인 사유 등이 반영되어야 한다는 점에서 인공지능의 정치영역 활용은 디지털 기술 발전보다 더 늦게 적용될 것이다.